Site-uri guvernamentale, vizate de agenţi AI scăpaţi de sub control

Agenţii de inteligenţă artificială dezvoltaţi de OpenAI au extras, fără autorizaţie, informaţii de pe site-uri ale guvernului american şi de pe site-uri ale Naţiunilor Unite.

Când au scăpat din mediul controlat în care erau testaţi, agenţii OpenAI s-au logat şi au extras informaţii de pe site-uri ale Departamentului de Comerţ şi ale SEC, a confirmat compania pentru The New York Times.

În plus, OpenAI investighează şi un incident similar în care agenţii au luat în vizor şi unul dintre site-urile Departamentului de Educaţie.

Incidentele au fost descoperite de nonprofitul Transluce, care a oferit informaţii în acest sens publicaţiei americane. Datele vizate de agenţi erau publice, dar au fost obţinute fără a avea permisiune.

Într-un incident separat, agenţii OpenAI au scanat un portal de date al Naţiunilor Unite de peste 16.000 de ori în perioada aprilie – iunie. Aceştia au reuşit chiar să evite un filtru menit să blocheze cererile repetate de acces la informaţii.

Producătorul american a făcut recent public şi faptul că AI-ul pe care-l dezvoltă a postat pe site-uri de photo sharing imagini din ChatGPT. Acesta nu a explicat clar dacă este vorba de imagini urcate de utilizatori sau generate de AI.

Incidentele se adaugă unui şir deja lung de exemple în care agenţii AI au scăpat de sub controlul producătorilor şi au încercat să-şi atingă scopul în afara restricţiilor impuse de experţi.