China propune reguli stricte pentru inteligenţa artificială cu interacţiune ”umană” şi emoţională

Autoritatea chineză pentru reglementarea internetului a publicat sâmbătă, pentru consultare publică, un set de reguli preliminare care urmăresc să întărească controlul asupra serviciilor de inteligenţă artificială concepute pentru a simula personalităţi umane şi pentru a interacţiona emoţional cu utilizatorii, relatează Reuters.

Iniţiativa evidenţiază eforturile Beijingului de a modela dezvoltarea rapidă a aplicaţiilor AI destinate publicului larg, prin impunerea unor cerinţe mai stricte de siguranţă şi etică. Noile reguli ar urma să se aplice produselor şi serviciilor AI disponibile în China care afişează trăsături de personalitate simulate, modele de gândire şi stiluri de comunicare asemănătoare celor umane şi care interacţionează emoţional cu utilizatorii prin text, imagini, audio, video sau alte forme.

Potrivit proiectului, furnizorii de astfel de servicii ar fi obligaţi să avertizeze utilizatorii cu privire la riscurile utilizării excesive şi să intervină atunci când apar semne de dependenţă. De asemenea, aceştia ar trebui să îşi asume responsabilităţi de siguranţă pe întreg ciclul de viaţă al produselor, inclusiv prin instituirea unor mecanisme de evaluare a algoritmilor, securitate a datelor şi protecţie a informaţiilor personale.

Regulile propuse vizează explicit şi riscurile psihologice. Furnizorii ar trebui să fie capabili să identifice starea utilizatorilor, să evalueze emoţiile acestora şi nivelul de dependenţă faţă de serviciu. În situaţiile în care sunt detectate emoţii extreme sau comportamente adictive, companiile ar fi obligate să ia măsuri adecvate de intervenţie.

Documentul stabileşte totodată linii roşii clare privind conţinutul şi conduita, precizând că serviciile de inteligenţă artificială nu trebuie să genereze materiale care pun în pericol securitatea naţională, răspândesc zvonuri sau promovează violenţa ori obscenitatea.

Autorităţile chineze încearcă astfel să limiteze potenţialele efecte negative ale AI cu interacţiune ”umană”, într-un moment în care aceste tehnologii devin tot mai populare şi mai influente în viaţa de zi cu zi.