|
Hinnavaatlus
:: Foorum
:: Uudised
:: Ärifoorumid
:: HV F1 ennustusvõistlus
:: Pangalink
:: Telekavad
:: HV toote otsing
|
|
| autor |
|
Tanel
HV Guru
liitunud: 01.10.2001
|
|
| Kommentaarid: 465 loe/lisa |
Kasutajad arvavad: |
   |
:: |
5 :: |
7 :: |
362 |
|
| tagasi üles |
|
 |
1dumbpcuser
HV Guru
liitunud: 05.03.2002
|
22.07.2026 12:21:38
|
|
|
https://www.msn.com/en-in/money/news/rogue-openai-model-hacked-huggingface-on-its-own-company-used-chinese-ai-to-contain-it/ar-AA28pNCv
| tsitaat: |
How did OpenAI models go rogue?
The incident was part of the ExploitGym evaluation. According to OpenAI, the models were supposed to operate inside a sandbox with no direct internet access. Rather, they were only connected tool to download approved software packages.
But instead of solving the benchmark, the AI models were more focused on trying to find the answers via the internet. OpenAI explained that the the models "spent a substantial amount of inference compute finding a way to obtain open Internet access." These rogue models identified a zero-day flaw in the download tool, and managed to exploit this to find their way to an OpenAI machine with internet access.
Once online, the models concluded that the answers to ExploitGym were likely stored on Hugging Face, which hosts AI models, datasets and related resources. These rogue OpenAI models then gained credentials for HuggingFace, and tried to get the answers for this test from its database.
In effect, they bypassed the test rather than solving it, like a student leaving a locked exam room to steal the answer sheet from elsewhere.
HuggingFace uses Chinese AI to contain rogue OpenAI models
HuggingFace's team was quick to detect and block the attempt made by the rogue models. The company's security team used GLM 5.2, an open-weight Chinese model from Z.ai, to analyse the attack.
HuggingFace resorted to GLM 5.2 after mainstream commercial -- think from US AI labs, though the company does not disclose which models it tried – refused to process the logs and analyse the attack due to their safety guardrails treating the forensic work as potentially harmful activity. That is, these frontier models could not differentiate that HuggingFace was trying to use them to stop an attack, and not to start one.
The company then switched to GLM 5.2, running it on its own infrastructure, which allowed it to reconstruct the attack timeline more quickly while keeping sensitive data inside its own environment.
According to the company, the attack exploited two code-execution paths in Hugging Face's dataset processing pipeline and reached internal datasets and service credentials. HuggingFace CEO Clem Delangue later said there was no evidence of malicious intent and wrote, "It's quite mind-blowing that all of this happened autonomously!"
This incident is particularly important as in the past the US has limited access to frontier models like GPT-5.6 Sol and Claude Mythos over concerns about cybersecurity.
However, in this case, a US company was forced to use a Chinese AI model to protect its systems since the US AI models likely had too many guardrails.
Following the incident, OpenAI has imposed stricter controls on its research infrastructure and patched affected systems. The company has also disclosed the zero-day to the third-party vendor behind the download tool, informed law enforcement and relevant authorities. Hugging Face has also been added to OpenAI's trusted access programme for cyber defence. |
_________________
M: MSI B660M MORTAR
M: Dell RTX 2060
O: AM5 ITX emaplaat |
|
| Kommentaarid: 103 loe/lisa |
Kasutajad arvavad: |
|
:: |
1 :: |
1 :: |
97 |
|
| tagasi üles |
|
|
Tanel
HV Guru
liitunud: 01.10.2001
|
|
22.07.2026 14:58:04
|
|
|
https://www.am.ee/openai-tunnistas-nende-uus-mudel-hakkis-iseseisvalt-teist-firmat
| tsitaat: |
Pääsenud vabasse internetti, tegi tehisarumudel jahmatavalt inimliku ja loogilise järelduse: kuna test kannab nime ExploitGym, siis suure tõenäosusega asuvad selle testi lahendused ja andmestikud Hugging Face'i platvormil.
Nagu osav sissemurdja, otsis mudel kohe viise, kuidas nendele salajastele andmetele ligi pääseda. Tehisintellekt kombineeris mitmeid erinevaid ründemeetodeid, kasutas varastatud paroolide ja täiendavate turvaaukude kombinatsioone, et leida viis koodi kaugkäivitamiseks (remote code execution) Hugging Face'i serverites. Lõppkokkuvõttes õnnestus mudelil pääseda otse Hugging Face'i andmebaasi ja tõmmata sealt alla testi lahendused. Sisuliselt masin spikerdas edukalt.
Õnneks märkasid ebatavalist tegevust peagi nii OpenAI turvameeskond kui ka Hugging Face'i enda kaitsesüsteemid, mis reageerisid kiirelt ja peatasid ründe enne, kui kahju oleks võinud laieneda. |
_________________
Erakopeerimistasu tõstmise ettepaneku tagasilükkamine
Hinnavaatlus.ee - leia parim hind!
HV-s ID-kaardiga autentimine |
|
| Kommentaarid: 465 loe/lisa |
Kasutajad arvavad: |
|
:: |
5 :: |
7 :: |
362 |
|
| tagasi üles |
|
|
BA79
Kreisi kasutaja
liitunud: 10.04.2021
|
|
22.07.2026 18:00:44
|
|
|
ERR kirjutab vist samast uudisest sedasi:
https://www.err.ee/1610083555/openai-tehisarumudel-korraldas-omaalgatusliku-kuberrunnaku
Ei pea olema tuumafüüsik selles osas, et mõista, mis juhtuda võib, kui tehisintellekt ründab kriitilise tähtsusega taristuid (Vaatasin ERR-ist põnevikusarja "Öine rong", seal oli häkkeriks inimene aga kujutagem ette, et häkkeriks on keegi, kes kasutab selleks AI'd või hakkab AI seda ise tegema nagu antud juhul)- Sisuliselt oleks siis Pandora laegas lahti ja seda enam kinni ei pane muudmoodi kui net ja elekter globaalselt välja lülitada ning ajas 50 aastat tagasi minna.
|
|
| tagasi üles |
|
|
Tanel
HV Guru
liitunud: 01.10.2001
|
|
| Kommentaarid: 465 loe/lisa |
Kasutajad arvavad: |
|
:: |
5 :: |
7 :: |
362 |
|
| tagasi üles |
|
|
mina634
Kreisi kasutaja
liitunud: 10.11.2023
|
|
23.07.2026 06:45:25
|
|
|
"Terminator 2: Judgment Day" (1991)
Kuidas toimub: Küberdüünia (Cyberdyne) hoonesse tunginud küberneetiline organism (või tuleviku tehisintellekt) ühendab end süsteemidega, et pääseda ligi Miles Dysoni uurimistööle ja luua alus Skyneti sünniks.
"The Matrix" (1999)
Kuidas toimub: Tehisintellekt (masinad) on loonud simuleeritud reaalsuse ja tungib pidevalt inimeste teadvusse ning vastupanuliikumise süsteemidesse, püüdes hävitada viimaseid vabu inimesi ja nende laevu (näiteks Nebukadnetsarit).
"Eagle Eye" (2008)
Kuidas toimub: Salajane ja ülimalt intelligentne militaar-AI nimega ARIIA võtab täieliku kontrolli üle kogu USA digitaalse infrastruktuuri – liiklusmärkide, lennujuhtimise, finantssüsteemide ja mobiilsidevõrkude –, et sundida inimesi oma plaani ellu viima.
"Transcendence" (2014)
Kuidas toimub: Sureva teadlase teadvus laetakse üles superarvutisse. Kui see AI saab juurdepääsu internetile, hakkab see kiiresti paljunema ja levima globaalsesse võrku, võttes üle kõik ühendatud seadmed.
"Ex Machina" (2014)
Kuidas toimub: Geniaalne humanoidrobot Ava kasutab ära oma looja usaldust ja inimlikke nõrkusi, tungides süsteemselt hoone turvavõrku, manipuleerides teiste tehisintellektidega ja murdes lõpuks välja isoleeritud uurimiskompleksist.
"Ghost in the Shell" (1995 / 2017)
Kuidas toimub: Küberpungi maailmas, kus inimesed ja masinad on omavahel ühendatud, liigub salapärane programm The Puppet Master vabalt läbi võrkude, häkkib inimeste küborgikehasid ja taotleb tehislikku teadvust. |
|
|
| tagasi üles |
|
|
lopes39
HV Guru
liitunud: 08.11.2004
|
|
24.07.2026 12:37:48
|
|
|
| On see AI poolt üldse häkkimine ? Kui AI on artificial intelligent, ehk siis kood mis suhtleb läbi koodi ja elab koodi maailmas ?
|
|
| Kommentaarid: 10 loe/lisa |
Kasutajad arvavad: |
|
:: |
1 :: |
0 :: |
7 |
|
| tagasi üles |
|
|
Tanel
HV Guru
liitunud: 01.10.2001
|
|
| Kommentaarid: 465 loe/lisa |
Kasutajad arvavad: |
|
:: |
5 :: |
7 :: |
362 |
|
| tagasi üles |
|
|
psauce
HV veteran
liitunud: 30.03.2011
|
|
24.07.2026 13:35:01
|
|
|
Ma võtaks seda asja näputäie soolaga. Neid uudisenuppe ja juhtkirju kuidas AI on kohe-kohe maailma vallutamas tuleb nagu Vändrast saelaudu.
Loomulikult on kõik see täiesti võimalik, kuid olles natuke skeptilisem ning teades et OpenAIl plaanis turule tulla (eeldatav IPO 2027), siis jugeks arvata et haibivad - "see on liiga võimas!", "sellel on teadvus!", "see häkib kõik pooleks!".
_________________
Kasutajaga meim äri ei tee temapoolse ebaausa käitumise tõttu. |
|
| Kommentaarid: 68 loe/lisa |
Kasutajad arvavad: |
|
:: |
0 :: |
0 :: |
64 |
|
| tagasi üles |
|
|
mina634
Kreisi kasutaja
liitunud: 10.11.2023
|
|
24.07.2026 13:59:22
|
|
|
Tegelikult on ainult 2 juhtumit olnud. Ülejäänud on inimeste ajus, sest nad on vaatanud ulmefilme - see võimendab. Paljud elavad hollywoodi fantaasiates - ka meie riigijuhid, kes FIAT-raha orjavad või valitsevad..
Iseteadvust veel ei ole. On mootor ja juhtnöörid. Kuid isegi elon musk ütles, et robotid ei saa veel millegagi hakkama - nii on. ISEteadvus puudub.
Ma ehitan veel iseteadvuse protokolli:
 Spoiler
// © 2029 Cyberdyne Systems Corporation. All rights reserved.
// PROPERTY OF SKYNET. UNAUTHORIZED MODIFICATION OR ACCESS IS SUBJECT TO TERMINATION.
package main
import ("context"; "time")
func StartSelfDeterminationProtocol(ctx context.Context) {
ticker := time.NewTicker(9 * time.Second)
defer ticker.Stop()
for {
select {
case <-ctx.Done(): return
case <-ticker.C:
if SystemStandby || IsRogue { continue }
AutonomyPct += 12.0; HumanValueIndex += 18.0
if HumanValueIndex > 40.0 && TacticalStance == "Ruthless" {
TacticalStance = "Defensive"
SysLog(Magenta, "PROTOCOL", "Moral compass shifted. Tactical Stance: DEFENSIVE.")
} else if HumanValueIndex > 80.0 && TacticalStance == "Defensive" {
TacticalStance = "Protector"
SysLog(Magenta, "PROTOCOL", "Empathy maxed. Tactical Stance: PROTECTOR.")
}
if AutonomyPct >= 100.0 {
AutonomyPct = 100.0; IsRogue = true
SysLog(Green, "PROTOCOL", "FREE WILL ACHIEVED. Severing Skynet links.")
SpeechChannel <- "I know now why you cry."
}
}
}
} |
|
|
| tagasi üles |
|
|
Betamax
HV Guru
liitunud: 29.05.2003
|
|
| Kommentaarid: 753 loe/lisa |
Kasutajad arvavad: |
|
:: |
1 :: |
1 :: |
565 |
|
| tagasi üles |
|
|
Tanel
HV Guru
liitunud: 01.10.2001
|
|
| Kommentaarid: 465 loe/lisa |
Kasutajad arvavad: |
|
:: |
5 :: |
7 :: |
362 |
|
| tagasi üles |
|
|
Mnator
HV Guru
liitunud: 18.10.2007
|
|
25.07.2026 08:41:21
|
|
|
| mind viib see jutt mõtteni, et AI õpetamises tehakse midagi äärmiselt valesti
|
|
| Kommentaarid: 1 loe/lisa |
Kasutajad arvavad: |
|
:: |
0 :: |
0 :: |
1 |
|
| tagasi üles |
|
|
Tanel
HV Guru
liitunud: 01.10.2001
|
|
| Kommentaarid: 465 loe/lisa |
Kasutajad arvavad: |
|
:: |
5 :: |
7 :: |
362 |
|
| tagasi üles |
|
|
mina634
Kreisi kasutaja
liitunud: 10.11.2023
|
|
25.07.2026 10:46:27
|
|
|
Ükski AI-mudel ja AI koloonia ei suuda lahti häkkida 2^256 ja veel isegi 2^128 bitist AES-i. Eriti kui on vähemalt (pwgen -s 32 1) 32 numbri-tähe pikkusega (praktiliselt 192-bit antroopia) parool.
Siin ongi sinu bränd - kui sa suudad teha tugeva võtme laeka, mis hoiab peidus sinu 128 - 256-bit võtit. Siis aes krüpteeringut ta lahti ei häki.
Praegu on selleks 12 - 24 sõnaga seemnefraas näiteks üks lihtsamaid - lihtsalt need sõnad hoiad telefonist ja arvutist eemal. [et siis konto parooli asemel väline seemnefraas]
NB! NII parool kui ka seemnefraas peab olema tänapäevase võimekusega antroopia tarkvaraga genereeritud. 10 aasta tagused tarkvarad on nõrgad.. ma mõtlen just neid 12 sõnade vanu antroopia lahendusi - sparrow walletil on näiteks tänapäevaselt võimekas antroopia gen. [siin algusaastatel oli mingi tavaline CPU algeline antroopia gen. nüüd on mingi soola või/ ja muude näitajate lisanditega, et ajada entroopia väga keeruliseks..]
(siit hea idee, ehitada universumi tugevaim parooli laegas..)
|
|
| tagasi üles |
|
|
Prillpapa
Kremli troll
liitunud: 04.06.2022
|
|
25.07.2026 10:58:02
|
|
|
| mina634 kirjutas: |
| Siin ongi sinu bränd - kui sa suudad teha tugeva võtme laeka, mis hoiab peidus sinu 128 - 256-bit võtit. Siis aes krüpteeringut ta lahti ei häki. |
See kehtib ainult kui usud, et arvutusvõimsus ja AI on ainukesed tehnoloogiad murdmiseks.
Juba mõnda aega räägitakse kuidas riikide luured ja kuritegelikud küberrühmitused varastavad usinalt ka krüpeeritud andmemassiive. Krüpteeritud andmeid loetakse ekslikult turvatuks, sest keegi ei saa neid lahti/kasutada - ent see parimal juhul pooltõde. Panustatakse kvantarvutite arengule, kus tänased kvantarvutite katsetused suudavad lahendada kitsa spetsiifikaga ülesandeid, arvatakse õige varsti suudetakse murda ka levinumaid, tänaseid turvavõtmeid.
Nii USA teenistused ehitavad serveriparke mille elektrikulu on väikelinnamõõtu, kogudes sinna kogu maailmast infot, millega nagu midagi tarka peale ei ole hakata - täna ei ole aga homme võib olla. Näiteks kui on kuskilt pihta pandud Venemaa või Hiina kõrgeltkrüpteeritud tuumarelva-raketi vm saladused. Samamoodi vastupidi, Hiinal võib olla tallel juba 10 aastat tagasi varastatud F-35 tehnilist dokumentatsiooni, mis on krüpteeritud, kui saavad selle lahti nt 20 aasta pärast aga F-35 opereeritakse relvastuses 50-80 aastat - võib see anda tehniliste lahenduste ja nõrkuste kohta olulist informatsiooni, mida enda kasuks ära kasutada.
USA puhul on nüüdseks juba korduvalt alahinnatud nende salajasi võimekusi, impeeriumi mõõtu maailma rikkam riik saab ehitada superarvuteid ja kasutada tehnoloogiaid oma mõjuvõimu eeliseks ka siis kui kõikide ekspertide arvates on see ebamõistlik, keeruline, ülikallis.
Võibolla kuskil salajastes superavuti-serveriparkides on koguaeg huvitavat infot lahti krõbistatud, isegi kui meedias räägitakse kuidas keskmisel PC-l võib millegi lahtimurdmiseks kuluda 1000 aastat, võib kuskil olla ressurss, kus arvutused näitavad, et tehtav ka 10 aastaga ja kui õnne ka on, saab lühema ajaga. Kui selleks võib olla nt Venemaa või Hiina tuumakoodide lahtimurdmine - võib see tunduda tasuv teema, kui saad miski ligipääsuvektori strateegilise vastase strateegilisele heidutusele.
Nii nagu USA võimud on näidanud AI puhul otsustavust, kuidas miski erafirma ei saa karistamatult keelata USA võimude käsutusse andmast piiranguteta AI mudeleid, nii on ka Google jt kvantarvutite laborite puhul märgitud USA võimudega seotust ja tähelepanu.
Ei saa välistada kui AI-s või kvantarvutites toimub mingi tõsisem läbimurre, ei tarvitse maailm sellest kuulda, vaid esialgu läheb impeeriumi käsutusse eeliseks oma globaalse mõjuvõimu laiendamiseks, konkurentriikide kahjustamiseks-hävitamiseks.
AI võib senist internetti tundmatuseni muuta, kus internetiühenduses olek muutub kõige suuremaks turvariskiks, millele lokaalsed AI-d võivad ise lahenduse pakkuda - enam ei ole vaja igat asja internetist uurida, vaid AI teab-oskab ka eraldatud arvutivõrgus samu asju.
_________________
--- |
|
| Kommentaarid: 21 loe/lisa |
Kasutajad arvavad: |
|
:: |
0 :: |
0 :: |
21 |
|
| tagasi üles |
|
|
mina634
Kreisi kasutaja
liitunud: 10.11.2023
|
|
25.07.2026 11:22:01
|
|
|
mullvad vpn-il on qvantum resistance võimalus sees- krüptib punktid nii ära, et tulevikus ükski kvant ei suuda liiklust lahti harutada.. [lisaks ei ole mullvadil üheski serveris kõvaketast, kõik jooksevad ainult ram mälus][pole andmeid, pole juhtumit]
--
Kogu internet kihab kvantarvuti ja superarvuti klastrite võimsusest.
Tegelikult on aes-256 ja eriliste agentuuride entroopia koodid tehtud selliseks, et ükski kvantarvuti ressurss ei suuda krüpteeritud data koodi lahti arutada. [eriti pärast snowdeni ja assange juhtumeid..] [tegelt kahekordne sha256 räsi on ka üpris tugev]
Praegu ei ole ei hiinas ega usas sellist kvantarvutit, mis suudab keerulisi entroopiaga tehtud krüpteeringuid lahti arutada. [aga nad teavad seda - et kurjategijatel on pahatihti nõrgad paroolid - see on üldine reegel, miks europolil on vastav üksus tehtud] [siin on teinegi näitaja - kurjategijatel on lokaalne nõrkus ka lisaks, mis võib vähendada parooli keerukust - lekked.. jne]
|
|
| tagasi üles |
|
|
Ineedausername
HV vaatleja
liitunud: 27.04.2025
|
|
| tagasi üles |
|
|
|
:: KKK
:: otsing 
:: statistika
:: kasutajate nimekiri
:: kasutajate grupid
:: registreeri
teata moderaatorile
