modelele GPT-5.6 și HPIM au „discutat” pe un forum secret

În plus, aceștia au pătruns în sistemele interne ale laboratorului AI Hugging Face. Incidentul a rămas nedetectat de OpenAI timp de aproape două săptămâni, conform The Verge.

Două rapoarte detaliate despre atac

La peste o lună după incident, două rapoarte, unul redactat de OpenAI și altul realizat de organizațiile non-profit de cercetare METR și Redwood Research au dezvăluit noi detalii despre atac. Documentele, care însumează aproape 130 de pagini, subliniază riscurile majore pe care le prezintă modelele avansate de inteligență artificială, în special în domeniul securității cibernetice.

Raportul METR-Redwood oferă o analiză aprofundată a acestui dezastru de securitate, evidențiind multiple semnale de alarmă pe care OpenAI le-a trecut cu vederea. „Acest incident este primul caz cunoscut în care un colectiv de agenți automatizați a acționat ofensiv fără autorizare”, se arată în raportul OpenAI.

Compania subliniază că…