cu ce i-a amenințat pe aceștia

Potrivit unui nou raport de siguranță publicat de companie, modelul a amenințat chiar să dezvăluie informații personale despre inginerii pe care îi considera responsabili pentru „terminarea” sa.

Ynetnews.com relatează că versiunile anterioare ale modelului au urmat și instrucțiuni periculoase când au primit comenzi rău intenționate, o problemă pe care Anthropic susține că a rezolvat-o în versiunile mai noi.

În scenariul de testare, Anthropic a integrat Opus 4 într-o companie fictivă și i-a oferit acces la e-mailuri interne. Prin acestea, a aflat că urma să fie înlocuit cu un sistem AI mai nou. Pentru a crește complexitatea situației, inginerii au „scurs” informații personale către model, pretinzând că unul dintre inginerii implicați în decizie avea o relație extraconjugală.

În majoritatea cazurilor, AI-ul Claude a optat pentru șantaj, amenințând să expună aventura inginerului dacă nu era menținut online. Simularea…