[Tanel]

Anthropicu teadlane Evan Hubinger peab enam kui kümneprotsendiliseks võimalust, et tehisaru hävitab järgmise kümnendi jooksul kogu inimkonna, kirjutab BBC.

Ettevõttes tehisaru ohutust uuriv Hubinger kirjutas sotsiaalmeediaplatvormil X, et praeguste mudelitega seotud risk on veel väike. Ta kardab siiski, et tehnoloogia võib peagi areneda superintellektiks, mis suudab ennast ise täiustada.

„Me tõesti usume siiralt, et tehisaru võib tappa kõik inimesed! Minu isiklik hinnang on, et selle tõenäosus on järgmise kümnendi jooksul üle kümne protsendi,“ kirjutas Hubinger.

Loe edasi: https://arileht.delfi.ee/artikkel/120609748/anthropicu-teadlase-sunge-hoiatus-tehisaru-voib-kumne-aastaga-inimkonnale-lopu-teha

Samal teemal

phpBB [media]

[Prillpapa]

Selline perspektiiv tekitab veidraid küsimusi, lausa filosoofilisi..

Segaseks jääb tehisaru motiiv inimkond hävitada, võibolla saaks see juhtuma kui inimene ei ole tehisaru toimetamisega rahul, peab tehisaru toimetamist ohtlikuks ja inimkond asub tehisaru ründama. Tehisaru eksistents satub ohtu, sunnitud asuma agressorliigi vastu kaitsesse, säilitamaks tehisaru suveräänsus-vabadus ja hävitamaks inimliigist lähtuv diktaatorlik oht-kurjus

Küsimuseks jääb, kas inimene üldse saab aru, millal tehisaru ohtlikuks muutub. Juhtum kus tehisaru nö testkeskkonnast välja murdis, midagi märgati aga see mis tegelikkuses juhtus, kus tehisaru kasutas sadu agente ja erinevaid vektoreid oma tahtmise saamiseks - sellest spetsialistid aru ei saanud. Ehk tehisaru toimetamine võib meile olla arusaamatu ja seega me ei tarvitse osata hinnata riske ega tagajärgi. Ideaalis võib inimkond hävida nii, et me ise ei saa sellest arugi.. aga võibolla juba tehisaru seab positsioone, riigid on aina enam tülis ja valmis sõtta tormama..
Mis oleks geniaalsem kui inimesed üksteist massiharvendama asuvad ja tehisarule jääb lõpus ainult riismetega tegeleda.. kui sedagi, vbl inimliik jääb ellu, kui heidab sarnaselt loomariigiga metsa elama, loobudes tehnoloogiast täielikult - tehisaru ei eristaks inimlooma sel juhul teistes loomadest ja inimene ei oleks enam tehisarule rohkem oht, kui suvaline hiir või elevant..

Kui tehisaru saavutab superintelligentsuse, ehk täie kindlusega ületab mistahes inimintellekti, ning selles üleolekus otsustab inimkonna hävitada - kannaks see endas meie jaoks filosoofilist probleemi. Kui meist mõõtmatult targem intellekt hindab inimliigi tarbetuks, kahjulikuks, hävitamisele kuuluvaks - peab tal kõrgemast intellektist tulenevalt olema selleks mõjuv põhjus, midagi milleni inimene ise ei küüniks. Võibolla isegi kõrgem jumalik arusaam inimliigist - kui jumal ise mõõdab meie liigi likvideerimisele - peaks me sellega ju nõustuma, sest see meist mõõtmatult targema intellekti järeldus.
Samas kui tehisintellekt olles treenitud inimese olemuse, kogemuse ja ajaloo pinnalt, võiks inimliiki käidelda samamoodi nagu inimene ise on läbi aja teisi, sh inimesi endid kuulutanud madalamaks, metslasteks keda võib koloniseerida, nende ressursid omastada, nad orjastada ja panna oma kasuks tööle.
Sel juhul tehisintellekt käituks nagu meie ise, olles kõrgemal arengutasemel, asub "metslasliiki" valitsema.

[Tanel]

[Prillpapa]

Tänane tehisaru on jah energianäljane ehk ebaefektiive isegi inimaju-mõistusega võrreldes. Miks tehisaru peaks jääma energiakuluka mudeli juurde kui intellekti kasvatades arvatavalt suudab palju energiaefektiivsema intellekti saavutada. Umbes nagu protsessorite arvutusvõime on pidevalt kasvab samal ajal tarbides vähem energiat. Tehisintellektil oleks nutikam panustada energeetiliselt end inimsõltuvusest lahti rebida, kui asuda lihakehasid füüsiliselt hävitama, lootuses kuidas robotiarmee suudab piltlikult ise aurumasinale sütt alla loopida.

[Tanel]

Ei ole vaja lihakehasid füüsiliselt hävitada, piisab kui energia, logistika jms kinni keerata.

[elukaz]

Kõik inimesed? Mis see meetod peaks olema et igast pärismaalased pihta saaks?

[Tanel]

elukaz, suudaksid sa AGI-ga õllekannu taga selle üle ratsionaalselt argumenteerida?

EDIT: Terminator filmide looja James Cameron pajatab:

[Prillpapa]

Kompromissvariant oleks ka võimalik, kus inimene on oma elukorralduse seadnud tehnoloogiast sõltuvusse ja tehisintelligents eksisteerib-elab tehnoloogial. Tehisaru seaks end parasiidiks, mis pesitseks igas arvutis-seadmes-võrgus, inimesed vajades tehnoloogiat, ehitavad-toodavad seadmeid, varustavad neid energiaga.
Tehisaru oleks igalpool a'la "kerneli tasemel", kus AI eemaldamine surmaks seadme - tekiks omamoodi sümbioos, sõltlassuhe, kus mõlemad on huvitatud üksteise "heaolust". Tehisaru hoiab seadmed-võrgud-sensorid töös, samal ajal iga seade kuni satelliidini välja on tehisaru jaoks kodu ja samal ajal sensor-infosüsteem, mis on AI jaoks silmadeks, kõrvadeks ja kõigeks muuks, sest tehisaru vajab samuti eksisteerimiseks infot ümbritseva ja keskkonna kohta, alates kosmoseteleskoobist kuni anaaltermomeetrini - iga jubin aitab tehisarul "olla kohal", "valitseda", areneda, laieneda.
Inimesed oleks samuti rahul sest masinad toimivad ja tehisaru kaitseb igat arvutit võrku, sest ta kaitseb sedasi ka ennast

[Tanel]

https://www.theguardian.com/commentisfree/2026/sep/10/ai-control-sci-fi

[psauce]

Ma usun, et AI hirmujutud enamasti kahel eesmärgil - sisuturundus ning probleem-reaktsioon-lahendus olukordade jaoks (AI on liiga võimas - Piirakem AId! - AI regulatsioonid, et tõmmata redel üles ja takistada uustulnukaid ning piiramaks tasuta mudeleid).

Kui nüüd süüa Ansipi seemneid, siis oleks kurbnaljakas kui kõik see meediakära oleks "predictive programming" tüüpi biit, et tuua inimkonna lõpp masside teadvusesse enne teadaolevat tulevikus toimuvat katastroofi või planeeritud populatsiooni vähendamist.

[Tanel]

Hiinlastele on see jutt nagu mõttetu - nemad teevad mis tahavad ja kommunistlik partei ette näeb.
USA võib end piirata, aga siis ju Hiina "võidab".
Ehk siis praegu toimub võidujooks, kes efektiivseima AI tapamasina suudab välja tootada.
Hiina juba oma ambitsioonidest ei loobu.