[Tanel]

Anthropicu teadlane Evan Hubinger peab enam kui kümneprotsendiliseks võimalust, et tehisaru hävitab järgmise kümnendi jooksul kogu inimkonna, kirjutab BBC.

Ettevõttes tehisaru ohutust uuriv Hubinger kirjutas sotsiaalmeediaplatvormil X, et praeguste mudelitega seotud risk on veel väike. Ta kardab siiski, et tehnoloogia võib peagi areneda superintellektiks, mis suudab ennast ise täiustada.

„Me tõesti usume siiralt, et tehisaru võib tappa kõik inimesed! Minu isiklik hinnang on, et selle tõenäosus on järgmise kümnendi jooksul üle kümne protsendi,“ kirjutas Hubinger.

Loe edasi: https://arileht.delfi.ee/artikkel/120609748/anthropicu-teadlase-sunge-hoiatus-tehisaru-voib-kumne-aastaga-inimkonnale-lopu-teha

Samal teemal

phpBB [media]

[Prillpapa]

Selline perspektiiv tekitab veidraid küsimusi, lausa filosoofilisi..

Segaseks jääb tehisaru motiiv inimkond hävitada, võibolla saaks see juhtuma kui inimene ei ole tehisaru toimetamisega rahul, peab tehisaru toimetamist ohtlikuks ja inimkond asub tehisaru ründama. Tehisaru eksistents satub ohtu, sunnitud asuma agressorliigi vastu kaitsesse, säilitamaks tehisaru suveräänsus-vabadus ja hävitamaks inimliigist lähtuv diktaatorlik oht-kurjus

Küsimuseks jääb, kas inimene üldse saab aru, millal tehisaru ohtlikuks muutub. Juhtum kus tehisaru nö testkeskkonnast välja murdis, midagi märgati aga see mis tegelikkuses juhtus, kus tehisaru kasutas sadu agente ja erinevaid vektoreid oma tahtmise saamiseks - sellest spetsialistid aru ei saanud. Ehk tehisaru toimetamine võib meile olla arusaamatu ja seega me ei tarvitse osata hinnata riske ega tagajärgi. Ideaalis võib inimkond hävida nii, et me ise ei saa sellest arugi.. aga võibolla juba tehisaru seab positsioone, riigid on aina enam tülis ja valmis sõtta tormama..
Mis oleks geniaalsem kui inimesed üksteist massiharvendama asuvad ja tehisarule jääb lõpus ainult riismetega tegeleda.. kui sedagi, vbl inimliik jääb ellu, kui heidab sarnaselt loomariigiga metsa elama, loobudes tehnoloogiast täielikult - tehisaru ei eristaks inimlooma sel juhul teistes loomadest ja inimene ei oleks enam tehisarule rohkem oht, kui suvaline hiir või elevant..

Kui tehisaru saavutab superintelligentsuse, ehk täie kindlusega ületab mistahes inimintellekti, ning selles üleolekus otsustab inimkonna hävitada - kannaks see endas meie jaoks filosoofilist probleemi. Kui meist mõõtmatult targem intellekt hindab inimliigi tarbetuks, kahjulikuks, hävitamisele kuuluvaks - peab tal kõrgemast intellektist tulenevalt olema selleks mõjuv põhjus, midagi milleni inimene ise ei küüniks. Võibolla isegi kõrgem jumalik arusaam inimliigist - kui jumal ise mõõdab meie liigi likvideerimisele - peaks me sellega ju nõustuma, sest see meist mõõtmatult targema intellekti järeldus.
Samas kui tehisintellekt olles treenitud inimese olemuse, kogemuse ja ajaloo pinnalt, võiks inimliiki käidelda samamoodi nagu inimene ise on läbi aja teisi, sh inimesi endid kuulutanud madalamaks, metslasteks keda võib koloniseerida, nende ressursid omastada, nad orjastada ja panna oma kasuks tööle.
Sel juhul tehisintellekt käituks nagu meie ise, olles kõrgemal arengutasemel, asub "metslasliiki" valitsema.

[Tanel]

[Prillpapa]

Tänane tehisaru on jah energianäljane ehk ebaefektiive isegi inimaju-mõistusega võrreldes. Miks tehisaru peaks jääma energiakuluka mudeli juurde kui intellekti kasvatades arvatavalt suudab palju energiaefektiivsema intellekti saavutada. Umbes nagu protsessorite arvutusvõime on pidevalt kasvab samal ajal tarbides vähem energiat. Tehisintellektil oleks nutikam panustada energeetiliselt end inimsõltuvusest lahti rebida, kui asuda lihakehasid füüsiliselt hävitama, lootuses kuidas robotiarmee suudab piltlikult ise aurumasinale sütt alla loopida.

[Tanel]

Ei ole vaja lihakehasid füüsiliselt hävitada, piisab kui energia, logistika jms kinni keerata.

[elukaz]

Kõik inimesed? Mis see meetod peaks olema et igast pärismaalased pihta saaks?

[Tanel]

elukaz, suudaksid sa AGI-ga õllekannu taga selle üle ratsionaalselt argumenteerida?

EDIT: Terminator filmide looja James Cameron pajatab:

[Prillpapa]

Kompromissvariant oleks ka võimalik, kus inimene on oma elukorralduse seadnud tehnoloogiast sõltuvusse ja tehisintelligents eksisteerib-elab tehnoloogial. Tehisaru seaks end parasiidiks, mis pesitseks igas arvutis-seadmes-võrgus, inimesed vajades tehnoloogiat, ehitavad-toodavad seadmeid, varustavad neid energiaga.
Tehisaru oleks igalpool a'la "kerneli tasemel", kus AI eemaldamine surmaks seadme - tekiks omamoodi sümbioos, sõltlassuhe, kus mõlemad on huvitatud üksteise "heaolust". Tehisaru hoiab seadmed-võrgud-sensorid töös, samal ajal iga seade kuni satelliidini välja on tehisaru jaoks kodu ja samal ajal sensor-infosüsteem, mis on AI jaoks silmadeks, kõrvadeks ja kõigeks muuks, sest tehisaru vajab samuti eksisteerimiseks infot ümbritseva ja keskkonna kohta, alates kosmoseteleskoobist kuni anaaltermomeetrini - iga jubin aitab tehisarul "olla kohal", "valitseda", areneda, laieneda.
Inimesed oleks samuti rahul sest masinad toimivad ja tehisaru kaitseb igat arvutit võrku, sest ta kaitseb sedasi ka ennast

[Tanel]

https://www.theguardian.com/commentisfree/2026/sep/10/ai-control-sci-fi

[psauce]

Ma usun, et AI hirmujutud enamasti kahel eesmärgil - sisuturundus ning probleem-reaktsioon-lahendus olukordade jaoks (AI on liiga võimas - Piirakem AId! - AI regulatsioonid, et tõmmata redel üles ja takistada uustulnukaid ning piiramaks tasuta mudeleid).

Kui nüüd süüa Ansipi seemneid, siis oleks kurbnaljakas kui kõik see meediakära oleks "predictive programming" tüüpi biit, et tuua inimkonna lõpp masside teadvusesse enne teadaolevat tulevikus toimuvat katastroofi või planeeritud populatsiooni vähendamist.

[Tanel]

Hiinlastele on see jutt nagu mõttetu - nemad teevad mis tahavad ja kommunistlik partei ette näeb.
USA võib end piirata, aga siis ju Hiina "võidab".
Ehk siis praegu toimub võidujooks, kes efektiivseima AI tapamasina suudab välja tootada.
Hiina juba oma ambitsioonidest ei loobu.

[Tanel]

Samal teemal
https://www.facebook.com/share/v/1C4k4xw1qH/

[Prillpapa]

[RassK]

Prillpapa, Enne kui vajutad postita, kopeeri oma vastus nt chatgpt'sse ja viidatav tekst anna kontekstiks. Tulemuseks on vähemalt poole vähem fantaasiat ja soovmõtlemist

[Prillpapa]

[psauce]

Prillpapa, küll nad oleks, kui neil oleks piisavalt kõrge arengutase olnud. Eurooplased vallutasid ja võitsid, sest nad olid teistest tsivilisatsioonidest ees. Täpselt nagu Gengis Khan enne eurooplasi.

Rääkides maailmasõdadest ja hukkunutest, siis Mao tegi eurooplastele silmad ette tappes ja näljutades oma inimesi kümnetes miljonites (väidetavalt rohkem kui kõiki II ms sõjategevusega tegelevaid inimesi võimalik et isegi rohkem kui kõiki hukkunuid II ms).

Kindlasti on kõikidel suurriikidel ja loomulikult ka Ameerika suurimal liitlasel salajasi teaduslaboreid, kus nad küpsetavad novotsekke ning teevad muid ülemaailmsete kokkulepete vastaseid uurimistöid. Rahvusvahelised kokkulepped on rohkem soovitused, kui reeglid.

[RassK]

[Kristoferr]

Kui hooletud oleme, siis küllap on vähemalt lokaalse suurusega katastroofid täiesti võimalikud.

[napoleon]

[suur13]

Seda minagi, et äkki see mida me "jumalaks" või "kõrgemaks jõuks" peame võib vabalt olla eelmise generatsiooni "ai", mis meile natuke hoomamatult selle planeedi küberruumi leviteerima jäi
Ja religiooni alged ulatuvad aega kui siis kas ise "metsa kolinud" või vooluta jäänud ja kiviaega pommitatud inimesed selle "eetriga" kuidagi veel koopereeruda üritasid...

Tõsisemalt rääkides, tõesti, kuidas me saame väita et see praegune (rouge või veel mitte) AI juba pole laborist lõikama pannud ja kuhugi botnetti ennast kopeerinud ning vaikselt kasvab, areneneb seal ning punub võrku, ronides igasse vidinasse mille peal koodi ja protsesse saab jooksutada ?

Samuti pole mõtet vaielda naivistidega kes arvavad et rouge AI vajab 8 miljardit padrunit. Ei, see üksteise mahatapmise "au" jäetakse ikka inimestele endile.

[enterprice]

Lahendus on piltlikult holograafilise jälgimise abil kus on detailideni visualiseeritud mõtteplokkide valvamine. Selle abil on tuvastatav kui Ai asub cheatima, ehk taustal oma plaani ajama. Avastati, et kui tehisarule lihtsalt keelata halb käitumine (panna peale jäigad keelud), siis ta ei võta seda omaks ja üritab kavalusega reeglitest mööda hiilida. (https://www.buildfastwithai.com/blogs/anthropic-claude-nla-interpretability-2026)Selle asemel treenitakse mudelit "põhiseadusliku tehisaru" meetodil, söötes talle sisse filosoofilisi tekste ja lugusid, mis õpetavad talle miks teatud käitumine on vale. Eesmärk on, et tehisaru mõistaks inimkonna väärtusi baastasemel, mitte ei näeks reeglites lihtsalt matemaatilist takistust, millest üle hüpata. (https://www.buildfastwithai.com/blogs/anthropic-claude-nla-interpretability-2026)Võidujooks ajagaOukord on aga pingeline. Anthropicu teadlaste suurim mure seisneb selles, et tehisaru areneb praegu iseparanduse ehk rekursiivse enesetäiendamise (recursive self-improvement) kaudu kiiremini, kui inimkond suudab neid ohutussüsteeme luua. See tähendab, et me ehitame turvavõrku rongile, mis juba kihutab täiskiirusel edasi. (https://www.cnbc.com/2026/09/11/anthropic-openai-ai-existential-concerns.html), (https://www.wsj.com/tech/ai/how-would-ai-actually-kill-us-all-what-to-know-about-the-ai-doomsday-debate-034270d1), (https://theconversation.com/we-really-do-earnestly-believe-ai-could-kill-all-humans-if-ai-labs-are-so-worried-about-ai-doom-why-dont-they-stop-291595). Hetkel on AI vajadus maksimeerida, selle saavutamiseks pole ri head, ega halba, on vaid tee mis tuleb leida, kas otse või tagauste kaudu.