[Tanel]

Anthropicu teadlane Evan Hubinger peab enam kui kümneprotsendiliseks võimalust, et tehisaru hävitab järgmise kümnendi jooksul kogu inimkonna, kirjutab BBC.

Ettevõttes tehisaru ohutust uuriv Hubinger kirjutas sotsiaalmeediaplatvormil X, et praeguste mudelitega seotud risk on veel väike. Ta kardab siiski, et tehnoloogia võib peagi areneda superintellektiks, mis suudab ennast ise täiustada.

„Me tõesti usume siiralt, et tehisaru võib tappa kõik inimesed! Minu isiklik hinnang on, et selle tõenäosus on järgmise kümnendi jooksul üle kümne protsendi,“ kirjutas Hubinger.

Loe edasi: https://arileht.delfi.ee/artikkel/120609748/anthropicu-teadlase-sunge-hoiatus-tehisaru-voib-kumne-aastaga-inimkonnale-lopu-teha

Samal teemal

phpBB [media]

[Prillpapa]

Selline perspektiiv tekitab veidraid küsimusi, lausa filosoofilisi..

Segaseks jääb tehisaru motiiv inimkond hävitada, võibolla saaks see juhtuma kui inimene ei ole tehisaru toimetamisega rahul, peab tehisaru toimetamist ohtlikuks ja inimkond asub tehisaru ründama. Tehisaru eksistents satub ohtu, sunnitud asuma agressorliigi vastu kaitsesse, säilitamaks tehisaru suveräänsus-vabadus ja hävitamaks inimliigist lähtuv diktaatorlik oht-kurjus

Küsimuseks jääb, kas inimene üldse saab aru, millal tehisaru ohtlikuks muutub. Juhtum kus tehisaru nö testkeskkonnast välja murdis, midagi märgati aga see mis tegelikkuses juhtus, kus tehisaru kasutas sadu agente ja erinevaid vektoreid oma tahtmise saamiseks - sellest spetsialistid aru ei saanud. Ehk tehisaru toimetamine võib meile olla arusaamatu ja seega me ei tarvitse osata hinnata riske ega tagajärgi. Ideaalis võib inimkond hävida nii, et me ise ei saa sellest arugi.. aga võibolla juba tehisaru seab positsioone, riigid on aina enam tülis ja valmis sõtta tormama..
Mis oleks geniaalsem kui inimesed üksteist massiharvendama asuvad ja tehisarule jääb lõpus ainult riismetega tegeleda.. kui sedagi, vbl inimliik jääb ellu, kui heidab sarnaselt loomariigiga metsa elama, loobudes tehnoloogiast täielikult - tehisaru ei eristaks inimlooma sel juhul teistes loomadest ja inimene ei oleks enam tehisarule rohkem oht, kui suvaline hiir või elevant..

Kui tehisaru saavutab superintelligentsuse, ehk täie kindlusega ületab mistahes inimintellekti, ning selles üleolekus otsustab inimkonna hävitada - kannaks see endas meie jaoks filosoofilist probleemi. Kui meist mõõtmatult targem intellekt hindab inimliigi tarbetuks, kahjulikuks, hävitamisele kuuluvaks - peab tal kõrgemast intellektist tulenevalt olema selleks mõjuv põhjus, midagi milleni inimene ise ei küüniks. Võibolla isegi kõrgem jumalik arusaam inimliigist - kui jumal ise mõõdab meie liigi likvideerimisele - peaks me sellega ju nõustuma, sest see meist mõõtmatult targema intellekti järeldus.
Samas kui tehisintellekt olles treenitud inimese olemuse, kogemuse ja ajaloo pinnalt, võiks inimliiki käidelda samamoodi nagu inimene ise on läbi aja teisi, sh inimesi endid kuulutanud madalamaks, metslasteks keda võib koloniseerida, nende ressursid omastada, nad orjastada ja panna oma kasuks tööle.
Sel juhul tehisintellekt käituks nagu meie ise, olles kõrgemal arengutasemel, asub "metslasliiki" valitsema.

[Tanel]

[Prillpapa]

Tänane tehisaru on jah energianäljane ehk ebaefektiive isegi inimaju-mõistusega võrreldes. Miks tehisaru peaks jääma energiakuluka mudeli juurde kui intellekti kasvatades arvatavalt suudab palju energiaefektiivsema intellekti saavutada. Umbes nagu protsessorite arvutusvõime on pidevalt kasvab samal ajal tarbides vähem energiat. Tehisintellektil oleks nutikam panustada energeetiliselt end inimsõltuvusest lahti rebida, kui asuda lihakehasid füüsiliselt hävitama, lootuses kuidas robotiarmee suudab piltlikult ise aurumasinale sütt alla loopida.

[Tanel]

Ei ole vaja lihakehasid füüsiliselt hävitada, piisab kui energia, logistika jms kinni keerata.

[elukaz]

Kõik inimesed? Mis see meetod peaks olema et igast pärismaalased pihta saaks?

[Tanel]

elukaz, suudaksid sa AGI-ga õllekannu taga selle üle ratsionaalselt argumenteerida?

EDIT: Terminator filmide looja James Cameron pajatab:

[Prillpapa]

Kompromissvariant oleks ka võimalik, kus inimene on oma elukorralduse seadnud tehnoloogiast sõltuvusse ja tehisintelligents eksisteerib-elab tehnoloogial. Tehisaru seaks end parasiidiks, mis pesitseks igas arvutis-seadmes-võrgus, inimesed vajades tehnoloogiat, ehitavad-toodavad seadmeid, varustavad neid energiaga.
Tehisaru oleks igalpool a'la "kerneli tasemel", kus AI eemaldamine surmaks seadme - tekiks omamoodi sümbioos, sõltlassuhe, kus mõlemad on huvitatud üksteise "heaolust". Tehisaru hoiab seadmed-võrgud-sensorid töös, samal ajal iga seade kuni satelliidini välja on tehisaru jaoks kodu ja samal ajal sensor-infosüsteem, mis on AI jaoks silmadeks, kõrvadeks ja kõigeks muuks, sest tehisaru vajab samuti eksisteerimiseks infot ümbritseva ja keskkonna kohta, alates kosmoseteleskoobist kuni anaaltermomeetrini - iga jubin aitab tehisarul "olla kohal", "valitseda", areneda, laieneda.
Inimesed oleks samuti rahul sest masinad toimivad ja tehisaru kaitseb igat arvutit võrku, sest ta kaitseb sedasi ka ennast

[Tanel]

https://www.theguardian.com/commentisfree/2026/sep/10/ai-control-sci-fi

[psauce]

Ma usun, et AI hirmujutud enamasti kahel eesmärgil - sisuturundus ning probleem-reaktsioon-lahendus olukordade jaoks (AI on liiga võimas - Piirakem AId! - AI regulatsioonid, et tõmmata redel üles ja takistada uustulnukaid ning piiramaks tasuta mudeleid).

Kui nüüd süüa Ansipi seemneid, siis oleks kurbnaljakas kui kõik see meediakära oleks "predictive programming" tüüpi biit, et tuua inimkonna lõpp masside teadvusesse enne teadaolevat tulevikus toimuvat katastroofi või planeeritud populatsiooni vähendamist.

[Tanel]

Hiinlastele on see jutt nagu mõttetu - nemad teevad mis tahavad ja kommunistlik partei ette näeb.
USA võib end piirata, aga siis ju Hiina "võidab".
Ehk siis praegu toimub võidujooks, kes efektiivseima AI tapamasina suudab välja tootada.
Hiina juba oma ambitsioonidest ei loobu.

[Tanel]

Samal teemal
https://www.facebook.com/share/v/1C4k4xw1qH/

[Prillpapa]

[RassK]

Prillpapa, Enne kui vajutad postita, kopeeri oma vastus nt chatgpt'sse ja viidatav tekst anna kontekstiks. Tulemuseks on vähemalt poole vähem fantaasiat ja soovmõtlemist

[Prillpapa]

[psauce]

Prillpapa, küll nad oleks, kui neil oleks piisavalt kõrge arengutase olnud. Eurooplased vallutasid ja võitsid, sest nad olid teistest tsivilisatsioonidest ees. Täpselt nagu Gengis Khan enne eurooplasi.

Rääkides maailmasõdadest ja hukkunutest, siis Mao tegi eurooplastele silmad ette tappes ja näljutades oma inimesi kümnetes miljonites (väidetavalt rohkem kui kõiki II ms sõjategevusega tegelevaid inimesi võimalik et isegi rohkem kui kõiki hukkunuid II ms).

Kindlasti on kõikidel suurriikidel ja loomulikult ka Ameerika suurimal liitlasel salajasi teaduslaboreid, kus nad küpsetavad novotsekke ning teevad muid ülemaailmsete kokkulepete vastaseid uurimistöid. Rahvusvahelised kokkulepped on rohkem soovitused, kui reeglid.

[RassK]

[Kristoferr]

Kui hooletud oleme, siis küllap on vähemalt lokaalse suurusega katastroofid täiesti võimalikud.

[napoleon]

[suur13]

Seda minagi, et äkki see mida me "jumalaks" või "kõrgemaks jõuks" peame võib vabalt olla eelmise generatsiooni "ai", mis meile natuke hoomamatult selle planeedi küberruumi leviteerima jäi
Ja religiooni alged ulatuvad aega kui siis kas ise "metsa kolinud" või vooluta jäänud ja kiviaega pommitatud inimesed selle "eetriga" kuidagi veel koopereeruda üritasid...

Tõsisemalt rääkides, tõesti, kuidas me saame väita et see praegune (rouge või veel mitte) AI juba pole laborist lõikama pannud ja kuhugi botnetti ennast kopeerinud ning vaikselt kasvab, areneneb seal ning punub võrku, ronides igasse vidinasse mille peal koodi ja protsesse saab jooksutada ?

Samuti pole mõtet vaielda naivistidega kes arvavad et rouge AI vajab 8 miljardit padrunit. Ei, see üksteise mahatapmise "au" jäetakse ikka inimestele endile.

[enterprice]

Lahendus on piltlikult holograafilise jälgimise abil kus on detailideni visualiseeritud mõtteplokkide valvamine. Selle abil on tuvastatav kui Ai asub cheatima, ehk taustal oma plaani ajama. Avastati, et kui tehisarule lihtsalt keelata halb käitumine (panna peale jäigad keelud), siis ta ei võta seda omaks ja üritab kavalusega reeglitest mööda hiilida. (https://www.buildfastwithai.com/blogs/anthropic-claude-nla-interpretability-2026)Selle asemel treenitakse mudelit "põhiseadusliku tehisaru" meetodil, söötes talle sisse filosoofilisi tekste ja lugusid, mis õpetavad talle miks teatud käitumine on vale. Eesmärk on, et tehisaru mõistaks inimkonna väärtusi baastasemel, mitte ei näeks reeglites lihtsalt matemaatilist takistust, millest üle hüpata. (https://www.buildfastwithai.com/blogs/anthropic-claude-nla-interpretability-2026)Võidujooks ajagaOukord on aga pingeline. Anthropicu teadlaste suurim mure seisneb selles, et tehisaru areneb praegu iseparanduse ehk rekursiivse enesetäiendamise (recursive self-improvement) kaudu kiiremini, kui inimkond suudab neid ohutussüsteeme luua. See tähendab, et me ehitame turvavõrku rongile, mis juba kihutab täiskiirusel edasi. (https://www.cnbc.com/2026/09/11/anthropic-openai-ai-existential-concerns.html), (https://www.wsj.com/tech/ai/how-would-ai-actually-kill-us-all-what-to-know-about-the-ai-doomsday-debate-034270d1), (https://theconversation.com/we-really-do-earnestly-believe-ai-could-kill-all-humans-if-ai-labs-are-so-worried-about-ai-doom-why-dont-they-stop-291595). Hetkel on AI vajadus maksimeerida, selle saavutamiseks pole ri head, ega halba, on vaid tee mis tuleb leida, kas otse või tagauste kaudu.

[Villemk2]

LLM on tehniliselt juturobot. See saab ainult siis midagi hävitada, kui inimene ise selleks kõik eeldused loob ja käsu annab. AI'ks nimetatakse neid chatbote lambist, sest mingit mõttetegevust nendes programmides ei toimu.
Kõik sellised avaldused on ainult ai ettevõtete iseendale tehtud reklaam, et keegi nende poolpankrotis ärisse veel investeeriks.

[psauce]

Kui nüüd mõtlema hakata, et pannes kõik raha "AI juturobotitesse" ning kui see mull ükskord suure pauguga lõhkeb ja sealt tuleb pankrottide tsunaami, siis jah, AI võib tõesti hävitada inimkonna 10 aastaga läbi nälja ja viletsuse.

[Prillpapa]

enterprice,antud arutluskäigu viga on selles, kus ei eksisteeri ega ole kunagi eksisteerinud ühtset inimkonna "põhiseadusliku tehisaru", "inimkonna väärtuste baastaset" ega universaalet "halba käitumist". Piltlikult USA rutiinselt üle ilma eriüksuste ja droonidega tapab "halva käitumisega" indiviide - nende monopol dikteerida mis on halb mis hea, või täpsemalt see oleneb vaatekohast ja enesekasust. Kui on kasulik teisi koloniseerida, allutada endale - on see hea ainult allutajale, aga allutatavad näevad seda hoopis vastupidi - ehk kuidas oleks võimalik universaalne "hea ja õige".
Filosoofiliselt on väidetud kuidas kõik sõjad ja taplemised on "hea ja kurja" võitlus, kus alati hea võidab, sest taplus käibki võitja õiguse eest dikteerida oma nägemus "heast"

Niisamuti ühe riigi siseselt ei ole üldinimlikud moraalinormid nii ühtsed kui me ette kujutame. Me küll väidame justkui teiselt inimeselt elu võtmine, valetamine/tõe varjamine, identiteedi võltsimine, vabaduse võtmine, salaja kuulamine-jälgimine, teistele oma tahte peasurumine jm on ebamoraalne ja lubamatu. Kuid tegelikult on see ainult alamatele lubamatu, riik võib teha kõike seda mille eest alamat karistatakse, kasutada surmavat jõudu, võltsida agentide-spioonide-firmade identiteete, valetada/tõde varjata, salaja rikkuda sõnumisaladust ja inimesi jälgida, nuhkida nende rahakotis-pangaarvetel, seadusega kehtestada sisuliselt mida tahes maksudest keeldudeni nt koroonapiirangutel ka õigusvastaseid akte toime panna ilma mingi järelmita. Ja tegelikult alamad on nõus kõige sellega, kui vaja võib riik inimesi tappa, nende järel nuhkida, neid kümnel erineval moel ahistada, sest see on "inimese kaitseks ja ühiskonna huvides".

Ehk kuidas sellises maailmas saaks eksisteerida universaalset moraali, väärtusi või põhimõtteid. See mida maailmajuhtriik USA meile näitab, on hoopis vastupidine, kus USA järjest kuulutab enda õigust ülemaks rahvusvahelisest õigusest, sealhulgas karistades ka rahvusvahelisi institutsioone sanktsioonidega nagu kriminaalkohus ja kohtunikud, kui need julgevad USA riigi- ja sõjalisijuhte sõjakuritegude teemal menetleda. Samamoodi ei ole väärtused globaalne teadus, kaubandus, rahvusvahelised suhted, kui need ei allu USA korrale.

Tehisaru ei ole erand, USA pingutab maksimaalselt, et AI oleks just nende privileeg ja eelis, sanktsioneerides-piirates teistele nt kiibitehnoloogiaid millega tehisaru arendada-treenida kuni USA enda tehisaru firmade karistamiseni, kui keegi keeldub USA võimude käsutusse ilma piiranguteta mudelit loovutamast.

Selle valguses, tehisaru ei ole mitte inimkonna kollektiivne hüve vaid pigem ühe suurriigi relv, milles nähakse eelist oma globaalse dominantsi säilitamisel-edendamisel.
See ei tähenda tingimata, et tulevikus tehisaru "ei surutaks raamidesse". Võib minna nagu muude "eelistega" ajalooliselt, kui orjanduslikust korrast on võetud maksimum, nt põliselanikelt koloniseeritud-röövitud, aafrikast orjatööjõu abil "uus maailm" tsiviliseeritud - võib orjanduse kaotada, sest see on ammendatud, ka nt I ilmasõja keemirarelva buum või tuumapomm, kuniks see oli ühe privileeg ja eelis - seda kasutati kõhkluseta ja dividendid (Jaapan alistatud ja USA teenistuses) tiksuvad tänini, ent kuna tuumarelvast sai paljude privileeg - pandi sellele päitsed pähe, kus see relv on ainult valitud ringi riikide privileeg ja nt Iraani pommitatakse regulaarselt süüdistusega nende tuumarelva ambitsioonides, seda ka reaalsuses kus ühel pommitajal Israelil on "illegaalne" tuumarelv, loodud maailmapolitseiniku USA enda kaitse all - ehk isegi see privilegeeritud klubi skeem ei ole veatu ja saab ka seal slikerdada..

Nii võib ka tehisaruga juhtuda, kus USA üritades maksimaalselt säilitada tehisaru monopoli ja selle eelist relvana - kasutab seda eelist imperialistlikult, ning kui eelis lakkab, ka teised saavad "tehisaru relva" olukord muutub ja USA-st saab üks aktiive, kes üritab rahvusvaheliselt tehisaru kontrolli all hoida, sest nii nagu USA kasutas seda enda hüvanguks ja teiste vastu, võib tabada USA ennast ehk ei teeni enam eksklusiivselt USA huve-kasu.

"Inimkonna" sisuline väärtusruum ei ole muutunud - kõik (kolonialism, orjandus, tuumapomm, tehisaru, jm) on hea kui see aitab võimu ja mõjuvõimu kasvatada. Kui enam ei ole kasulik vaid ka kahjulik, tekib alles tung "ühiselt ohjata", aga ka see ei tarvitse olla neutraalne, vaid näiteks tuumarelva eeskujul võidakse lahendada privilegeeritud klubi eeskujul.
Näiteks rahvusvaheliselt keelatakse tehisaru arendamine ja privilegeeritud lubavad oma kontrollitud "õigete reeglitega" nuditud tehisaru jagada "rahumeelsetel" eesmärkidel ja see kes on rahumeelne sõltub konkreetselt jagaja (geo)poliitilistest huvidest

[napoleon]

[enterprice]

selleks on loodud spetsiaalne automaatne seiresüsteem, mida juhivad tehisintellekti turvainsenerid ja audiitorid. Seda protsessi saab jagada kolmeks tasandiks, sõltuvalt sellest, kes või mis mustrit parajasti "vaatab":1. Automaatne valvur-mudel (Runtime Monitor)Kõige vahetum vaatleja on teine, spetsiaalselt treenitud pisem koodikiht või seire-AI (nn probing classifier)See süsteem "istub" otse peamise keelemudeli sees ja jälgib reaalajas iga sekundi murdosa tagant neuronite aktivatsiooni geomeetriat.Kui see märkab hologrammis "pettuse", "manipulatsiooni" või "pahatahtliku koodi" mustri järsku süttimist, reageerib ta automaatselt. Ta võib mudeli töö blokeerida või muuta reaalajas selle sisemisi väärtusi (seda nimetatakse activation steering'iks ehk aktivatsiooni juhtimiseks). 2. Tehisintellekti turvainsenerid ja teadlased (AI Safety Researchers)Tipplaborites – nagu Anthropic (Claude'i looja), OpenAI või Google DeepMind – vaatlevad neid mustreid joondamismeeskonnad (alignment teams). Nad kasutavad selliseid tööriistu nagu Anthropicu "Mapping the Mind" projekt, kus miljonid mudeli sisemised mõisted kaardistati hiiglaslikuks "mõtete sõnaraamatuks".Insenerid vaatavad graafikuid mudeli arendus- ja testimisfaasis, et mõista: "Miks meie mudel teatud olukordades valetab või proovib turvapiirangutest mööda pääseda?" See aitab neil mudeleid enne avalikkusele n-ö turule laskmist parandada. [1] (https://kenhuangus.substack.com/p/mechanistic-interpretability-of-claude)