„AI-ul nu acționează din răutate. Nu are intenții, emoții sau orgoliu”

Bogdan Botezatu, Head of Threat Research la Bitdefender, a analizat pentru Libertatea ce s-a întâmplat în spatele ușilor închise ale celor de la OpenAI, cum a reușit modelul să evadeze din mediul de test și ce înseamnă acest incident pentru viitorul internetului.

Ce s-a întâmplat, de fapt? Nu e scenariu de film, ci un test scăpat de sub control

Modelele OpenAI erau supuse unor teste de securitate într-un mediu controlat („sandbox”) pentru a le evalua capacitatea de a rezolva probleme complexe de hacking. Pentru a vedea de ce este capabil AI-ul cu adevărat, cercetătorii au redus sistemele obișnuite de protecție care opresc aplicația din activități riscante.

Problema? Mediul controlat nu era complet izolat de exterior.

„Modelul a găsit o vulnerabilitate necunoscută într-un serviciu folosit pentru instalarea pachetelor software, a folosit-o pentru a obține acces la internet și apoi a continuat să caute o cale către informațiile de…