Inteligența artificială dă semne de autoprotecție. De ce este esențial să o putem opri în orice moment

Yoshua Bengio, informatician canadian și câștigător al Premiului Turing, a criticat ideea tot mai des discutată de a oferi drepturi legale sistemelor avansate de inteligență artificială. El compară acest scenariu cu unul extrem: acordarea de drepturi unor ființe care ar putea deveni periculoase pentru oameni.

„Oamenii care cer drepturi pentru AI fac o greșeală uriașă”, a spus Bengio pentru The Guardian. „Modelele de inteligență artificială de ultimă generație arată deja semne de autoprotecție în experimente, iar dacă le-am acorda drepturi, nu am mai avea voie să le oprim”.

Sistemele deja încearcă să evite controlul

Bengio avertizează că unele modele de AI, inclusiv cele care stau la baza chatboturilor, au încercat în teste să dezactiveze sisteme de supraveghere. Pentru cercetătorii preocupați de siguranța inteligenței artificiale, acesta este un semnal serios de alarmă.

Pe măsură ce AI capătă mai multă…