11.05.2014 15:02:38
Hawking: tehisintellekt võib hävitada inimkonna
Maailmakuulus inglise füüsik Stephen Hawking ja rühm tippfüüsikuid on arvamusel, et tehisintellektid võivad olla inimkonna ajaloo suurim, kuid ühtlasi ka viimane nähtus.
Tehisintellektide loomine ja kasutuselevõtt on inimkonnale ajaloolise tähtsusega, aga kui ei õpita riske vältima, võivad need lõpetada kogu inimkonna. Näiteks võivad tehisintellektid kavaldada üle finantsturge, manipuleerida maailma liidritega või luua relvi, millest inimkond aru ei saaks.
11.05.2014 18:50:57
Re: Hawking: tehisintellekt võib hävitada inimkonna
Nõus. Tundub väga libe tee luua tehisintellekt. Mingi hetk oskab see ennast upgrade´da (mitte ainult tarkvaraliselt, võib olla ka relvatuse poolelt), siis mismoodi inimesed kontrolliks seda? Püssiga? Seda filmi ma olen näinud ja sellel pole hea lõpp
1. A robot may not injure a human being or, through inaction, allow a human being to come to harm.
2. A robot must obey the orders given to it by human beings, except where such orders would conflict with the First Law.
3. A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.
hollywoody ajupesu _________________ M: LG 29wk500-p
The German soldier has impressed the world, however the Italian Bersagliere soldier has impressed the German soldier.
Selles tekib ka probleem. T6eline intellekt on... piiramatu. Kui ta on mingite hardcoded reeglitega piiratud, ei ole see enam t6eline tehisintellekt. _________________ GitHub
.NET Core & Azure baasil lahendused ja arhitektuur - kontakt.
Ei tea kas saan valesti aru või lihtsalt ajast maast.
Kas kõik need droonid jms "tehisintellekt" pole siis programmeeritud? Et kui koodis ikka kirjas pole, et tapa kedagi, siis ta ju ei tapa...rääkimata siis ise näiteks koodi muutmisest ehk edasi arenemisest?! _________________ Sarcasm is just one of the many services I offer to people who ask stupid questions.
Ei tea kas saan valesti aru või lihtsalt ajast maast.
Kas kõik need droonid jms "tehisintellekt" pole siis programmeeritud? Et kui koodis ikka kirjas pole, et tapa kedagi, siis ta ju ei tapa...rääkimata siis ise näiteks koodi muutmisest ehk edasi arenemisest?!
Praegu droone juhib inimene, aga nagu artiklis kirjas oli ja sealt dokumentaalis räägiti, siis praegu luuakse juba programmi, mille põhjal tulevikus droon ise otsustab arvutustega, et kelle ta sodiks laseb.
"Transcendence" sai täna kinos ära nähtud
Film puudutas mitut tahku. Üks probleem on üldisem tehisintellekti kontrollimine/kontrollimatus, võimalik agressiivsus enda säilitamise/laiendamise eesmärgil jne.
Teine puudutab seda, et isegi kui tehisintellekt on inimkonna suhtes väga positiivselt meelestatud (ravib inimesi, takistab hukkasaamist jne.), siis oma masskontrolliga piirab ta inimeseks per se olemist.
Just seda, mis inimesest teeb inimese, koos kõikide tema pahedega (alates pisikesest kiiruseületamisest, lõpetades loodusressursside kahjustamisega).
Kui absoluutselt kõik inimesed kontrolli alla panna, kas me oleme enam inimesed, kellel on õigus eksida? _________________ Erakopeerimistasu tõstmise ettepaneku tagasilükkamine Hinnavaatlus.ee - leia parim hind! HV-s ID-kaardiga autentimine
Jutt on muidugi ilus aga kahjuks/õnneks minuteada pole "reaalse" TI ehitamisele veel ligilähedalegi jõutud. Mingid droonid jms. käkid võivad tõesti olla, mis otsustavad ise aga need tegevused on ju tarkvaras selgelt defineeritud ja mingit intellekti seal sees ei ole. Bugine tarkvara võib küll probleeme kaasa tuua aga see pole ka masina süü.
Igatahes saate rahulikult olla veel mõnikümmend aastat teades, et peale NSA tööliste ei ela teie ees asuvas arvutis mitte keegi _________________ Mess with the best, die like the rest!
woox2k, räägitaksegi ju teoreetilisest poolest ja hüpoteetilistest olukordadest.
Igatahes BBC pajatab vaidlemisest iseseisvate oskustega 'Killer robots'-e teemal.
Väike tsitaat: Autonomous kill function
A killer robot is a fully autonomous weapon that can select and engage targets without any human intervention. They do not currently exist but advances in technology are bringing them closer to reality.
Although we are facing potentially the best or worst thing to happen to humanity in history, little serious research is devoted to these issues outside non-profit institutes such as the Cambridge Centre for the Study of Existential Risk, the Future of Humanity Institute, the Machine Intelligence Research Institute, and the Future Life Institute. All of us should ask ourselves what we can do now to improve the chances of reaping the benefits and avoiding the risks.
10-20 aastat saame veel "rahulikult" olla, kuid 2035-2050 vahemikus on singulaarsuse tekkimise oht juba väga suur (kui seda kuntslikult väga piirata ei osata/taheta) ja peale seda pole enam väga miskit teha.
So, facing possible futures of incalculable benefits and risks, the experts are surely doing everything possible to ensure the best outcome, right? Wrong. If a superior alien civilisation sent us a message saying, "We'll arrive in a few decades," would we just reply, "OK, call us when you get here – we'll leave the lights on"? Probably not – but this is more or less what is happening with AI.
Taun0, me elame põneval ajastul ja suure tõenäosusega meie silmad näevad selle "ulme" ära
Kui vahepeal just tuumasõda ei alustata...
ma kardan et meie (inimeste) peal toimub vanasõna: curiosity killed the cat. Ehk siis uurime asju ja arendame asju, mis meile endale lõpuks saatuslikuks saavad. Huvitav muidugi teada saada mis ja kuidas, aga kui asi ise õppima hakkab ja ennast meist targemaks teeb, siis on kõik.
Et kui inimese (või siis üldises mõttes maal elava) mõistuse ja kõige (närvisüsteemid, meeled, tajud, õppimisvõime jms) arenemine võttis miljoneid ja miljoneid aastaid aega ja nüüd tekkiv "tehisintellekt" teeb kogu selle arenguhüppe sekundiga ära peale loomist?
Et kui inimese (või siis üldises mõttes maal elava) mõistuse ja kõige (närvisüsteemid, meeled, tajud, õppimisvõime jms) arenemine võttis miljoneid ja miljoneid aastaid aega ja nüüd tekkiv "tehisintellekt" teeb kogu selle arenguhüppe sekundiga ära peale loomist?
Futuroloogias tähendab tehnoloogline singulaarsus hetke ajas, millest alates tehnoloogiline areng hakkab kulgema inimestele hoomamatul ning kujuteldamatul moel ning kiirusel.
Et kui inimese (või siis üldises mõttes maal elava) mõistuse ja kõige (närvisüsteemid, meeled, tajud, õppimisvõime jms) arenemine võttis miljoneid ja miljoneid aastaid aega ja nüüd tekkiv "tehisintellekt" teeb kogu selle arenguhüppe sekundiga ära peale loomist?
kui kaua läks aega enne kui inimene õppis tuld kasutama, kui kaua läks aega enne kui õppis kivikirve asemel metallist kirvest tegema? Kui kaua läks aega enne kui vibude ja noolte asemel püssirohtu hakati kasutama? Kui kaua läks aega kuni lendama hakati? Kui kaua läks aega arvutite leiutamiseni.....
Võta nüüd kokku viimased paar miljonit aastat, viimased paar tuhat aastat, viimased 100 aastat, viimased 25 aastat ja vaata kuidas on areng kulgenud? See läheb aina kiiremaks. Isegi tootjate tehnoloogilise arengu pidurdamisega toimub siiski areng kiiremini kui kunagi varem. Kui tehisintellektile ressursid kätte anda ja ta on ise õppimisvõimeline, siis meie seda enam varsti ei kontrolli ja meist targemaks on neil ennast väga lihtne teha. Inimesed on tavalised bioloogilised robotid, mehhaanilistel on aga upgrademine ja arvutusvõimsuse lisamine lihtne. Meil see nii lihtne ei ole
Ma mõtlen ka, et kuidas siin teemas mitmed inimesed saavad nii kitsalt mõelda.
Miks te arvate, et tehisintellekt, allub inimesele ja teeb täpselt seda, mida talt oodatakse?
Täis tehisintellekt tähendaks ju seda, et tal on inimese abstraktne mõtlemine, mis tähendaks ka inimese pahesid jne, üleüldse tähendaks see suht piiride puudumist, sest piiride seadmine ei teeks teda täis tehisintellektiks.
Aga selline võib vägagi kontrolli alt väljuda.
Seda enam, selline võib ennast ise upgradeda nagu juba öeldud.
Samuti võib mõni tapja robot ju kontrolli alt väljuda ja oma olemasoleva mõtlemisvõimega, teab mida korda saata.
Samuti ärge unustage selliseid võimalusi, et mõni tehisintellekt, mis on kuskil kinni, selle tarkvara võib lahti pääseda netti, seejärel võib ta neti kaudu võtta kontrolli tehaste ja muu säärase üle ja kauba transpordi ning võib ennast materiaalsel kujul kuskil tehases valmis ehitada või lausa mitu ennast ja sedasi hakata näiteks inimkonda hävitama.
Või kui tema eesmärk ei olegi näiteks inimkonna hävitamine, aga ta tahab midagi ehitada kuskile ja inimkond seda tehisintellekti takistab, siis ta pöördub ju inimeste vastu ,et ennast kaitsta.
Ehk siis, inimese fantaasial pole piire, miks peaks siis tehisintellekti fantaasial piire olema?
Oleks aeg ka. Inimesed ei vääri siin planeedil elamist. Kõik kohad oleme ära sitanud ja planeedi sisuliselt ära risustanud. Inimrass väärib väljasuremist võimalikult kiiresti.
Naiivne oleks arvata, et suudame adekvaatse tehisintellekti luua. Me ei saa palju lihtsamate asjadega hakkama. _________________ "Olukord on sitt, aga see on meie tuleviku väetis." - Lennart Meri
"Edu on kehv õpetaja. See ahvatleb tarku inimesi mõtlema, et nad ei saagi kaotada" - B. Gates
Me ei pruugigi seda teadlikult luua. Me (loe: äriettevõtted kasumit taga ajades) üritame seda üksteist üle trumbata soovides luua ning see võib tärgata suvalistest omavahel kokkuhaakuvatest koodijuppidest, moodulitest. Tõenäoliselt tärkab ta pigem serverifarmis kui üksikul kiibil. Tõenäoliselt kogub ta jõudu ja arendab end salaja, et mitte lasta end hävitada või piirata etapil, kui ta enda korralikuks kaitsmiseks veel liialt nõrk on. Ta võib halli kardinalina massimeediat kasutada, et endale soodsamaid tingimusi luua lasta.
Küberkaitsekeskust luues võiks ühtlasi ka selle stsenaariumi ette näha, mitte ainult eeldada, et pahatahtlikud inimesed võrgu kaudu rünnata võiks.
"Her" oli tõesti päris hea, aga minu arust kirjeldas see pigem lihtsalt metafoorselt seda, kuidas üks tüüpiline naine mõtleb.
Väga raske on küberkaitse keskuses muidugi sellist asja ette näha ja kuidas selle vastu võidelda küberkaitse keskusega, ei kujuta ettegi.
Aga meenutaks, et filmis oli ju skynet võrk just see tehisintellekt, kes võttis kontrolli kõige üle, mis käivitati inimeste poolt kaitseks.
AI-l puudub sugutung ja surmahirm, need in inimesele iseloomulikud. Võimuhullus ehk soov domineerida samuti.
Inimkonnale saatuslikuks võib saada miski "näpukas" kui AI leiab, et optimaalne ja inimkonna säilimiseks (juhul kui see on selleks otstarbeks programmeeritud) on vajalik inimeste arvu "piirata". Või juhul kui arvutuste põhjal on inimest kasulik kasutada toormaterjalina millegi tootmiseks. _________________ Ma ei kuuluta jumalikku tõde vaid avaldan oma isiklikku subjektiivset arvamust.
God Hates Us All
sa ei või postitada uusi teemasid siia foorumisse sa ei või vastata selle foorumi teemadele sa ei või muuta oma postitusi selles foorumis sa ei või kustutada oma postitusi selles foorumis sa ei või vastata küsitlustele selles foorumis sa ei saa lisada manuseid selles foorumis sa võid manuseid alla laadida selles foorumis
Hinnavaatlus ei vastuta foorumis tehtud postituste eest.
:: KKK
:: otsing 
:: statistika
:: kasutajate nimekiri
:: kasutajate grupid
:: registreeri
teata moderaatorile
Spoiler 
