OpenAI a anunţat vineri că va înăspri restricţiile privind informaţiile despre arme şi sisteme de securitate furnizate adolescenţilor prin ChatGPT, inclusiv în cazul întrebărilor care par inofensive, ca parte a unor noi măsuri destinate prevenirii violenţei în lumea reală, transmite Reuters.
Noile reguli vor limita accesul utilizatorilor sub 18 ani la informaţii practice despre arme şi sisteme de securitate care ar putea fi utilizate în scopuri periculoase, chiar şi atunci când conversaţiile nu indică intenţii violente. Măsurile sunt introduse pe fondul preocupărilor tot mai mari privind riscurile pe care chatboturile bazate pe inteligenţă artificială le pot reprezenta pentru minori.
Pentru toţi utilizatorii, indiferent de vârstă, ChatGPT va putea încheia automat conversaţiile în care o persoană pare să manifeste o preocupare persistentă pentru violenţă. OpenAI ar putea, de asemenea, să suspende temporar conturile utilizatorilor care poartă în mod repetat astfel de discuţii.
Compania a anunţat şi îmbunătăţirea sistemului de estimare a vârstei, astfel încât utilizatorii identificaţi ca având probabil sub 18 ani să fie transferaţi către versiunea ChatGPT destinată adolescenţilor, care include protecţii suplimentare. Părinţii vor fi informaţi dacă un cont al copilului lor este suspendat pentru discuţii repetate despre violenţă.
Totodată, OpenAI va limita nivelul de detaliu al informaţiilor despre atacurile armate în masă din trecut, inclusiv despre armele utilizate şi modalităţile prin care autorii le-au procurat. Noile măsuri vor începe să fie implementate treptat în următoarele săptămâni şi vor fi ajustate ulterior.
Anunţul intervine într-un context de supraveghere tot mai atentă a companiilor de inteligenţă artificială în ceea ce priveşte protecţia minorilor şi identificarea comportamentelor care ar putea indica riscuri de vătămare.
La începutul lunii octombrie, OpenAI a publicat primul său raport privind utilizarea ChatGPT de către adolescenţi, arătând că aceştia petrec în medie mai puţin de 15 minute pe zi pe platformă. Separat, organizaţia nonprofit Common Sense Media a constatat că versiunea ChatGPT pentru adolescenţi a avertizat frecvent părinţii cu întârziere sau nu i-a avertizat deloc atunci când minorii au purtat conversaţii despre sinucidere, autovătămare sau tulburări alimentare.
