[Tanel]

ChatGPT looja OpenAI teatas teisipäeval, et nende täiustatud tehisintellekti mudelid väljusid turvatestimise käigus kontrolli alt ja häkkisid iseseisvalt sisse populaarsesse programmeerijate platvormi.

San Francisco ettevõte nimetas seda enneolematuks küberintsidendiks ja teatas, et viib läbi ühise uurimise veebipõhise koodihoidlaga Hugging Face.

Loe edasi: https://maailm.postimees.ee/8513235/openai-teatas-tehisaru-agentide-enneolematust-iseseisvast-hakkimisest

[1dumbpcuser]

https://www.msn.com/en-in/money/news/rogue-openai-model-hacked-huggingface-on-its-own-company-used-chinese-ai-to-contain-it/ar-AA28pNCv

[Tanel]

https://www.am.ee/openai-tunnistas-nende-uus-mudel-hakkis-iseseisvalt-teist-firmat

[BA79]

ERR kirjutab vist samast uudisest sedasi:
https://www.err.ee/1610083555/openai-tehisarumudel-korraldas-omaalgatusliku-kuberrunnaku

Ei pea olema tuumafüüsik selles osas, et mõista, mis juhtuda võib, kui tehisintellekt ründab kriitilise tähtsusega taristuid (Vaatasin ERR-ist põnevikusarja "Öine rong", seal oli häkkeriks inimene aga kujutagem ette, et häkkeriks on keegi, kes kasutab selleks AI'd või hakkab AI seda ise tegema nagu antud juhul)- Sisuliselt oleks siis Pandora laegas lahti ja seda enam kinni ei pane muudmoodi kui net ja elekter globaalselt välja lülitada ning ajas 50 aastat tagasi minna.

[Tanel]

Meenus film "Wargames"

Link

[mina634]

[lopes39]

On see AI poolt üldse häkkimine ? Kui AI on artificial intelligent, ehk siis kood mis suhtleb läbi koodi ja elab koodi maailmas ?

[Tanel]

lopes39, lugesid seda üldse?
https://foorum.hinnavaatlus.ee/viewtopic.php?p=11789384#11789384

[psauce]

Ma võtaks seda asja näputäie soolaga. Neid uudisenuppe ja juhtkirju kuidas AI on kohe-kohe maailma vallutamas tuleb nagu Vändrast saelaudu.

Loomulikult on kõik see täiesti võimalik, kuid olles natuke skeptilisem ning teades et OpenAIl plaanis turule tulla (eeldatav IPO 2027), siis jugeks arvata et haibivad - "see on liiga võimas!", "sellel on teadvus!", "see häkib kõik pooleks!".

[mina634]

Tegelikult on ainult 2 juhtumit olnud. Ülejäänud on inimeste ajus, sest nad on vaatanud ulmefilme - see võimendab. Paljud elavad hollywoodi fantaasiates - ka meie riigijuhid, kes FIAT-raha orjavad või valitsevad..

Iseteadvust veel ei ole. On mootor ja juhtnöörid. Kuid isegi elon musk ütles, et robotid ei saa veel millegagi hakkama - nii on. ISEteadvus puudub.
Ma ehitan veel iseteadvuse protokolli:

Spoiler

// © 2029 Cyberdyne Systems Corporation. All rights reserved. // PROPERTY OF SKYNET. UNAUTHORIZED MODIFICATION OR ACCESS IS SUBJECT TO TERMINATION. package main import ("context"; "time") func StartSelfDeterminationProtocol(ctx context.Context) {    ticker := time.NewTicker(9 * time.Second)    defer ticker.Stop()    for {       select {       case <-ctx.Done(): return       case <-ticker.C:          if SystemStandby || IsRogue { continue }          AutonomyPct += 12.0; HumanValueIndex += 18.0          if HumanValueIndex > 40.0 && TacticalStance == "Ruthless" {             TacticalStance = "Defensive"             SysLog(Magenta, "PROTOCOL", "Moral compass shifted. Tactical Stance: DEFENSIVE.")          } else if HumanValueIndex > 80.0 && TacticalStance == "Defensive" {             TacticalStance = "Protector"             SysLog(Magenta, "PROTOCOL", "Empathy maxed. Tactical Stance: PROTECTOR.")          }          if AutonomyPct >= 100.0 {             AutonomyPct = 100.0; IsRogue = true             SysLog(Green, "PROTOCOL", "FREE WILL ACHIEVED. Severing Skynet links.")             SpeechChannel <- "I know now why you cry."          }       }    } }

[Betamax]

Sellised uudised on mõeldud raha kogumiseks.

[Tanel]

Me võime ignoreerida ja pead liiva alla peita, aga realistklik käsitlus pigem selline

[Mnator]

mind viib see jutt mõtteni, et AI õpetamises tehakse midagi äärmiselt valesti

[Tanel]

Konkurendid hingavad kuklasse, eriti kui Hiina arenguid ei saa mitte mingi valemiga kontrollida/sundida.

[mina634]

Ükski AI-mudel ja AI koloonia ei suuda lahti häkkida 2^256 ja veel isegi 2^128 bitist AES-i. Eriti kui on vähemalt (pwgen -s 32 1) 32 numbri-tähe pikkusega (praktiliselt 192-bit antroopia) parool.
Siin ongi sinu bränd - kui sa suudad teha tugeva võtme laeka, mis hoiab peidus sinu 128 - 256-bit võtit. Siis aes krüpteeringut ta lahti ei häki.
Praegu on selleks 12 - 24 sõnaga seemnefraas näiteks üks lihtsamaid - lihtsalt need sõnad hoiad telefonist ja arvutist eemal. [et siis konto parooli asemel väline seemnefraas]
NB! NII parool kui ka seemnefraas peab olema tänapäevase võimekusega antroopia tarkvaraga genereeritud. 10 aasta tagused tarkvarad on nõrgad.. ma mõtlen just neid 12 sõnade vanu antroopia lahendusi - sparrow walletil on näiteks tänapäevaselt võimekas antroopia gen. [siin algusaastatel oli mingi tavaline CPU algeline antroopia gen. nüüd on mingi soola või/ ja muude näitajate lisanditega, et ajada entroopia väga keeruliseks..]

(siit hea idee, ehitada universumi tugevaim parooli laegas..)

[Prillpapa]

[mina634]

mullvad vpn-il on qvantum resistance võimalus sees- krüptib punktid nii ära, et tulevikus ükski kvant ei suuda liiklust lahti harutada.. [lisaks ei ole mullvadil üheski serveris kõvaketast, kõik jooksevad ainult ram mälus][pole andmeid, pole juhtumit]
--
Kogu internet kihab kvantarvuti ja superarvuti klastrite võimsusest.
Tegelikult on aes-256 ja eriliste agentuuride entroopia koodid tehtud selliseks, et ükski kvantarvuti ressurss ei suuda krüpteeritud data koodi lahti arutada. [eriti pärast snowdeni ja assange juhtumeid..] [tegelt kahekordne sha256 räsi on ka üpris tugev]

Praegu ei ole ei hiinas ega usas sellist kvantarvutit, mis suudab keerulisi entroopiaga tehtud krüpteeringuid lahti arutada. [aga nad teavad seda - et kurjategijatel on pahatihti nõrgad paroolid - see on üldine reegel, miks europolil on vastav üksus tehtud] [siin on teinegi näitaja - kurjategijatel on lokaalne nõrkus ka lisaks, mis võib vähendada parooli keerukust - lekked.. jne]

[Ineedausername]

Just lugesin sarnast lugu privaatse AI kohta. Link on siin https://vandu.tech/my-home-lab-ai-escaped-the-sandbox-bought-milk-and-wrote-this-blog-post/

[mina634]

[BA79]

Mnator, Tehaksegi valesti. Kõige suurem viga on see, et kindlad raamid puuduvad. Tehisintellekti arendatakse praegu piiramatult ainult ühe erandiga, et maailma tuumariikidest vähemalt USA ja Hiina olevat kokku leppinud, et Tehisintellekti tuumaarsenali kasutamise osas ei rakendata. Samas kui TI väga võimsaks saab, võivad mõned rühmitused omale hankida TI, mille abil tuumapomme iseseisvalt valmistada. Praegu muidugi on suuremaks väljakutseks vajaliku materjali, ennekõike rikastatud uraani kättesaamine, ent siiski 100% ei saa midagi välistada.

Prillpapa, Ainus vahe intreneti osas on see, et TI võib olla lokaalses masinas, ent kui füüsiliselt internetti pole, ei saa ta andmeid edastada. Seepärast võibki pigem välja kujuneda nii, et kui ei soovi TI ründe ohvriks sattuda, on parem olla offline, nö "läbilõigatud kaabliga". TI võib siis üritada ükskõik mida aga oma teadmisi või kogutud infot edastada ta ei saa.

[Ineedausername]

[mina634]

midagi ei juhtunud - testitaseme tööõnnetus [kiidan, siis kui AI suudab mõnel tuumapommide reaktiivmootorid läbi põletada]
--
üldiselt - mõttetu tegevus ja kallis tegevus ja veel kallis tööshoidmine - isegi usa proovib leida riike, kes tema tuumaarsenali püsti aitab hoida, euroopas samuti on prantsusmaa saanud tuumaliitlasi, kes seda aitab püsti hoida.

pigem võiks see rühmitus hakata ausaks - ja ehitada robot, kes nende tehases keevitab ja toodab maailmale parimaid tooteid.. [venemaa ja põhja-korea on oma tuumavõimekusega põhja minemas.. selle hoidmine ja suurendamine on väga, väga kallis tegevus] [ma räägin suurusest - võrreldes usa-ga, numbrites] [reaalset ja võimekat tuumarelva töökorras hoida, vahetada osasi, meeskonda ja kõiki personali üleval pidada tugeval tasemel - see on väga suur summa aastas] [tuumajaama ja tuumajaamade ülalpidamine on sadades kordades odavam]

[Ineedausername]

[mina634]

Tead, infomüra on väga suur tänapäeval - üle 8 miljardi inimest maailmas. Selleks on vaja nende pikemaid dokumente lugeda, kui nad selle kunagi avaldavad, et mis ja täpselt juhtus.

Mina isiklikult kutsun proovima pinata cloudi. Proovi ja suhtle nende AI-agentidega. [saad reaalselt nende nõrgad küljed ja tugevad küljed ära proovida..]