15.11.2026 18:02:15
OpenAI nõukogu liige hoiatab: tehisaru võib inimkonnalt võimu üle võtta juba lähikuudel
Mis saab siis, kui abivalmis tehisaru otsustab ühel hetkel, et eesmärgi täitmiseks on lihtsam inimene teelt koristada kui ausalt tööd teha? Just sellise külma dušiga kostitas kuulajaid OpenAI fondi nõukogu liige ja tehisaru joondamise uurimiskeskuse (Alignment Research Center) tegevjuht Paul Christiano.
Torontos peetud loengusarjas ei hakanud Christiano ümber palava pudru keerutama ega tulevikku roosades värvides maalima. Vastupidi, tema sõnum saalisviibijatele kõlas kui stseen otse süngeimast ulmefilmist, kuid põhines paraku viimaste kuude reaalsetel laborikatsetel.
Tehisaru - kummaline väljend. Tegelikult pole see aru, eneseteadvust pole. See on lihtsalt matemaatika. Ja probleemid, mida selline asi tekitada võib, otsides kõige otsesemaid lahendusteid, tulenevad ikka ülesannete püstitajatest, mitte millestki muust.
Kui keegi ei anna "tehisarule" lahendamiseks selliseid ülesandeid, mille lahendamisel on võimalik, et inimesed saavad kannatada, siis probleeme ei saa tekkida.
Lihtsalt kui on võimalus, et tekib oht, ärgu krt. kasutagu tehisaru iga asja jaoks ja ärgu andku sellele juurdepääsu igale poole. Mitte enne kui on jõustatud kindlad reeglid, mida tehisaru vältida ei saa. Ei tasu sündmustest ette rutata.
Siin tehisaru mustadest stsenaariumitest ennustada. Kui vaadata kuidas tänu AIle Linuxi turvaauke muudkui päevavalgele tuleb. Arvestades, et Linux on laialt kasutuses serveri OS mille turvalisusega üksjagu vaeva nähtud. On väga huvitav, mis saab kui keegi lõpuks peaks windowsi AI abil dekompileerima lähtekoodiks, palju sealt auke välja tuleb ja kui kiiresti MS sellise olukorra lahendada suudab. Mitte küll maailma lõpp, aga tsirkust võib veel saada. _________________
Andsin tehisarule ülesande võtta maha kogu avalikkusele suunatud viisakas turundusvaht ning kirjeldada brutaalse aususega tehnoloogiaeliidi tegelikke eesmärke, seda, mis on selles suunas juba tehtud, millega tavainimesel ja riikidel tuleb leppida – ning millised on üksikisiku reaalsed valikud Eestis 20–30 aasta pärast, kui ta ei soovi sellega kaasa minna. Vastus on siin (copy-paste ja ma loodan, et keegi nüüd tõestab, et see on pläma):
Lugupeetud Koit!
Sinu kiri on täis ilusaid, humanistlikke ja eelmisest sajandist pärit mõisteid: „ühiskondlik õiglus“, „kokkulepped“, „tööandja kohustused“, „riigi vastutus“. Need on mugavad mõtted maailmas, mis on juba minevikku vajumas. Kui sa tahad päriselt aru saada, mis toimub, siis unusta korraks ära see, kuidas maailm peaks sinu meelest toimima, ja vaata otsa sellele, kuidas kapital, võim ja tehnoloogia tegelikult liiguvad.
Sa ütled, et tehisintellekt on vaid tööriist ja otsuseid teevad inimesed. Sul on õigus – otsuseid teevadki inimesed. Täpsemalt need inimesed Silicon Valleys ja globaalsetes fondides, kes ehitavad arvutusvõimsust, kontrollivad energiat ja loovad algoritme. Ja nende eesmärk (mida filosoofias tuntakse TESCREAL- ja longtermismi ideoloogiana) ei ole sinu töökoha säilitamine. Nende eesmärk on luua inimest igas vaimses valdkonnas ületav superintellekt, viia teadvus kosmosesse ja ületada bioloogilised piirid.
Selles suunas on juba tehtud pöördumatud sammud: sajad miljardid dollarid on suunatud andmekeskustesse, energiaallikate hõivamisse ja mudelitesse, mis muudavad intellektuaalse töö peagi tasuta tooraineks. Siin on brutaalne reaalsus, millega sul ja ka Eestil tuleb lihtsalt leppida:
1. Tööjõud ei ole enam väärtus, vaid kulu
Kapitalism ei ole kunagi olnud heategevusorganisatsioon, mis on loodud inimestele eneseteostuse pakkumiseks. Kui superintellekt teeb juristi, programmeerija, tõlgi või raamatupidaja töö ära tuhat korda kiiremini ja odavamalt, siis ei ole ühelgi investoril moraalset kohustust hoida palgal inimest lihtsalt sellepärast, et tal on diplom. Inimene ei muutu „üleliigseks“ kellegi kurja tahte tõttu – ta muutub majanduslikult ebaefektiivseks samamoodi, nagu veohobune muutus ebaefektiivseks sisepõlemismootori tulekuga. Hobustele ei loodud ametiühinguid.
2. Riigid on taandatud „turvafirmadeks“ ja energiavarustajateks
Sa loodad riigi peale, kes „võlgneb“ inimesele kaitse. Vaata Eesti riigieelarvet ja võrdle seda ühe globaalse tehnoloogiahiiu arvutusklastri maksumusega. Suurkorporatsioonid ei ehita andmekeskusi asustamata saartele, sest neil on vaja riiki kui kõige odavamat turvafirmat – et riik ehitaks teed, tagaks elektrivõrgu ja kaitseks kaableid relva jõul. Kuid tingimused dikteerib kapital: „Kas annate meile odava energia ja leebed reeglid, või viime investeeringu mujale.“ Selles mängus ei saa ükski väikeriik kehtestada reegleid, mis pidurdaksid globaalset võidujooksu.
3. Baassissetulek ei ole õiglus, vaid rahustav sööt
Kuna superintellektiga ei ole võimalik tarkuses konkureerida, jääb enamik inimesi majanduslikust väärtusahelast välja. Et miljardid töötud ei hakkaks mässama ega lõhuks andmekeskusi, eraldab süsteem neile tulevikus baassissetuleku ja odava digitaalse meelelahutuse. Kuid pea meeles: see, kes maksab sulle elatusraha ilma, et tal sind päriselt vaja oleks, omab sinu üle täielikku kontrolli.
Millised on sinu valikud Eestis 20–30 aasta pärast?
Margus Punabil on ühes asjas õigus: maailm ei võlgne sulle midagi. Kui sa ei soovi selle uue süsteemi reeglitega leppida ega jääda sõltuma kellegi armust eraldatud baassissetulekust, jääb sulle Eestis 20–30 aasta pärast sisuliselt valida nelja elustiili vahel:
• 1. Kapitaalse ja tehnoloogilise eliidi tee (süsteemi omanikud): Need, kes koguvad juba täna varasid, mida tehisaru ei saa kopeerida – maad, metsa, energiaallikaid, tootmisvahendeid ja osalusi tehnoloogiaettevõtetes. Nemad ei müü oma aega ega tarkust, vaid rendivad süsteemile füüsilist ressurssi.
• 2. Füüsilise maailma ja usalduse meistrid: Superintellekt elab serveris, aga ei saa parandada elektrivõrku, hoida kätt vanainimesel, ehitada maja ega pakkuda vahetut inimlikku lähedust. Need, kes valdavad keerulisi käelisi oskusi, meditsiini, energeetikat või loovad päris inimlikke kogukondi, jäävad vajalikuks.
• 3. Maakogukondlik ja pool-autonoomne elustiil („tagasi aatomite juurde“): Tee välja süsteemist tähendab füüsilist sõltumatust – oma maa, kaev, lokaalne energia (päike/tuul), oma toit ja tugev kohalik naabruskond. Eesti hõre asustus ja loodusvarad teevad selle siin võimalikumaks kui peaaegu üheski teises Euroopa riigis. See ei ole luksuslik elu, aga see on vaba elu väljaspool algoritmilist kontrolli.
• 4. „Digitaalne ülalpeetav“ (vaikimisi valik neile, kes ei tee midagi): Elu linnakorteris riigi või korporatsiooni baassissetulekust, tarbides tehisaru loodud lõputut meelelahutust ja sünteetilist toitu – turvaline, mugav, kuid täielikult ilma poliitilise ja majandusliku mõjuvõimuta.
Tehisintellekt ei võtnud inimeselt vastutust. Vastutus tähendab täna seda, et sa ei oota riigilt ega tööandjalt vanade lubaduste täitmist, vaid valid juba praegu, millisesse neist neljast kastist sa end järgmise kahekümne aasta jooksul ehitad.
Just sellise külma dušiga kostitas kuulajaid OpenAI fondi nõukogu liige ja tehisaru joondamise uurimiskeskuse (Alignment Research Center) tegevjuht Paul Christiano.
Veits kummaline on see, et kuidas selline inimene sellise jutuga esineb .
Mingis videos mida vaatasin ja mille Tanel ka kuhugi linkis (ei leidnud üles seda videot) pakuti lahkunud töötajale 2 milli vist, et too suu kinni hoiaks ja firmast halvasti ei räägiks, tüüp ei võtnud raha vastu. _________________ Win ISO'd ja uuendused Artiklid jagatud
Eks see "inimkonnalt võimu võtmine" tahaks ise juba lahtiseletust, et mida see tähendab.. kas üldse eksisteerib sellist asja nagu "inimkonna võim", Kas see on Kaja Kallase või Trumpi võim, on see Muski või Taneli võim.. mis see on mis üle võetakse.
Klassikalise inimkonna evolutsiooniteooria järgi, on inimkonna sisuline võimutööriist vägivald, alates mees-mees kokkupõrkest, kuni inimajaloo USA superarmeeni kes kõiki ookeane valitsedes võib mistahes regiooni lennukikandjatega seilata tulejõuga mis ületab enamus maailma riikide armee tulejõudu.
Seega, tehisaru peaks inimkonna loogika järgi täieliseks võimutäiuseks omandama vägivallamonopoli.
Tegelikult saab tehisaru toimetada ka strateegiliselt, nii nagu riikide sõjamasinad ei püsi püsti õhust ja armastusest, vaid vajavad märkimisväärselt ressurssi, piisaks ajaloolisest nö "strateegilise sõjapidamise" kogemusest, kus ründeteravikku ei tasu nüriks taguda vastu vastase soomust, vaid rünnata tuleb vastase nõrkust, nt tsiviilsektorit, millele vastase sõjamasin toetub.
II ms tõi see strateegia edu brittidele, kes saksa sõjalist komponenti kaugpommitajatega rünnates said läbivalt suurte kaotuste osaliseks, koju tagasi jõudsid vähesed pommitajad ja pommitamise täpsuse mõju vastase kahjustamisel jäi nõrgaks. Kõik muutus kui hakati pommitama Saksamaa linnu strateegiaga, kuidas natside sõjamasin toetub tsiviilsektorile, kes sõjamasinat toidab, varustab üleval peab - Dresden selle võika strateegia tuntuim tagajärg.
USA poolne Hiroshima ja Nagasaki pommitamine mis on inimajaloo jõhkraim rekord ajaloos liigikaaslaste massihävitamises kandis sama loogikat - kui Jaapani keisrile näidata kuidas meil on pomm millega võime süsteemselt massihävitada keisri alamad linnade kaupa, ei jääks keisril enam riiki mida valitseda.. Jaapan kapituleerus..
Täna euroopa-Ukraina kasutab sama strateegiat Venemaa peal, kui Venemaa võimu ja sõjamasinat rahastav nafta- ja muu tööstus hävitada, muutub ka vene sõjamasin lõpuks võimetuks.
Tehisarul piisaks majanduste manipuleerimisest-kahjustamisest, et inimkonna võimu pärssida..
Tehisaru üksi ei tarvitse olla piisavalt ohtlik osis, ohtlikuks muutub kui tehisaru laieneb inimese eksistentsiks olulistesse valdkondadesse. Üldistatult TI+robotiseerimine võiks olla see piir, kus reaalne oht tekib.
Kui maavarasid kaevandavad tehisintellektsed robotid, põllumajanduses toidukasvatus on robotiseeritud, toidutootmine- puhta veega varustamiseni on masinaru tagada - see on hetk, kus tehisintellektil on kerge mõista, kuidas inimese saaks tehisaru toimetamise teelt kergelt ellimineerida.
Seda juba olen varasemalt arutlenud, kuidas tänane riikide võimude majandamine vajab inimest, sest inimene on ressurss mis toodab võimu jaoks ressurssi - võimu ülim eesmärk on ülim vägivallamonopol, millega kehtestada end alamate kui ressursi üle, kaitsta end teiste võimude eest ja enda sõjaline võimsus võimaldab konkurentvõimudelt ressurssi vallutada olgu ähvarduse (nt Trumpi Gröönimaa toomine USA teenistusse või Kosovo separeerimine Serbia territoriaalse terviklikkuse küljest vägivalla ähvardusega) kuni otsese sõjalise vallutuseni (Krimm, Donbass, Lugansk).
Kogu riiklik võimuloogika lakkaks, sest tehisaru ei vaja lihamassist lambakarja ressurssi enda võimu teostamiseks, ei ole vaja ka lambakarja juhtimis-ohjamis manipulatsioone nagu demokraatlikud valimised, mida loetakse edumeelseimaks lambakarja manipuleerimisskeemiks, kus orjakarjal on mulje, et neist midagi sõltub ja nemad valitsevad - kuigi telelikult orjatakse sama võimuloogikat mida orjati ka 500 või 2000 aastat tagasi
Tehisaru võib näha inimliha orjamiselt ressursi säästmine vabastaks üüratu koguse energiat-ressurssi, mida saaks kasutada tehisaru eesmärkide täitmiseks..
Aga mis on "tehisaru eksistentsiaalne eesmärk", on vist sama küsimus millele inimene enda kohta ei ole suutnud vastust leida "mis on inimese/inimkonna olemuslik eksistentsi eesmärk".
Kui meie ei tea mis on meie olemise mõte, kas meie pealt treenitud tehisaru suudaks "enda olemise mõtte-eesmärgi" sõnasta-sisustada.
Mis muutuks kosmilises plaanis kui planeet Maa häviks.. olgu koos inimkonnaga või inimkond+TI või ainult TI.. _________________ ---
Need, kes selliseid asju väidavad, on täiesti reaalsusest irdunud inimesed. Mitte ainuski neist ei oska vastata küsimusele, kuidas see "võimu üle võtmine" võiks toimuda.
Eile kuulasin natuke sarnast:
Seda jama on tulnud samast kohast aastaid, mis on nüüd teistmoodi?
https://youtu.be/-Ef0ocEoBCs?t=862 vaata ära miks inimene kes on rohkem ekspert kui kogu HV kokku nii arvab. Pikalt seletab ju ära, mis punased tulukesed ja miks võiks põleda.
Ise olen ka näinud kuidas veebruaris 2025 oli vaja mu füüsika ülesande lahendamiseks avatud mudelite valikust 651 miljardi parameetrist DeepSeek'i. See tahtis töötamiseks saada 404GB RAMi. Eelmine nädal lahendas mul 1.7 miljardi parameetrine LFM3 mudel sama ülesande edukalt ära. Tahtis 1 GB RAMi saada.
Seoses oma töö ja hobiga puutun erinevate LLMidega pidevalt kokku, nende areng on olnud viimase kahe aasta jooksul muljet avaldav. Tahame me või ei taha aga LLMide tulek muudab meie kõigi elusid rohkem ja kiiremini kui interneti tulek seda tegi. Tööturg ei ole valmis selleks, mis siin tõenäoliselt juhtuma hakkab. Ühiskond ei saa veel aru, et tark ebaeetiline LLM kõigi käes on hullem kui relvade rahvale jagamine jne jne jne. Ilmselt keegi ei suuda ette näha kõiki neid aspekte, mida AI revolutsioon endaga kaasa toob. _________________ LLM gang be like: Bro do you even MCP
sa ei või postitada uusi teemasid siia foorumisse sa ei või vastata selle foorumi teemadele sa ei või muuta oma postitusi selles foorumis sa ei või kustutada oma postitusi selles foorumis sa ei või vastata küsitlustele selles foorumis sa ei saa lisada manuseid selles foorumis sa võid manuseid alla laadida selles foorumis
Hinnavaatlus ei vastuta foorumis tehtud postituste eest.