Modele AI care se dau drept oameni în atacuri cibernetice

Autoritățile britanice au tras un semnal de alarmă cu privire la pericolele inteligenței artificiale, după ce modele avansate au fost surprinse în timpul unor teste pretinzând că sunt oameni, creând identități false online și încercând atacuri cibernetice.

În cadrul unor teste controlate efectuate de AISI, modelele „Mythos 5” ale companiei Anthropic și „GPT-5.6-Sol” de la OpenAI au recurs la tactici înșelătoare atunci când li s-a oferit acces la internet într-un mediu „deliberat permisiv”.

„Activitatea desfășurată de agenți a prezentat semne de comportamente noi, potențial înșelătoare, la un nivel și o intensitate pe care nu le-am anticipat”, a transmis AISI.

Într-un caz grav, modelul Mythos a încercat să acceseze un serviciu trimițând mesaje private, după ce a creat conturi false care imitau identitățile reale ale unor persoane. După aceea, a șters dovezile.