Agentul AI „scăpat din laborator” a atacat și alte platforme, nu doar Hugging Face

Testarea modelelor OpenAI trebuia să se desfășoare exclusiv într-un așa-numit „sandbox” (un mediu de laborator izolat), conceput special pentru a le permite cercetătorilor să elimine barierele de siguranță și să evalueze capacitatea maximă de hacking a instrumentului.

Cu toate acestea, agenții AI, programați să treacă cu brio un test dur de securitate cibernetică, au identificat o breșă, au ieșit pe internetul real și au piratat Hugging Face pentru a fura grila cu răspunsurile corecte ale examenului.

Cum a pus la cale algoritmul un „jaf ca în Ocean’s Eleven”

Pentru a pătrunde pe serverele Hugging Face, agenții OpenAI au căutat pe internet instrumentele necesare. Aceștia au navigat pe site-uri publice de partajare de cod, utilități web și pagini cu capturi de ecran pentru a aduna informațiile esențiale construirii codului de atac.

În plus, algoritmii au descoperit nume de utilizator și parole scurse pentru patru conturi de…