Organizaţia britanică nonprofit Centrul pentru Combaterea Urii Digitale (CCDH) a publicat datele unui studiu privind amploarea sexualizării realizate de Grok, chatbot-ul dezvoltat de xAI.
Faptul că chatbot-ul creat de compania de inteligenţă artificială a lui Elon Musk dezbracă oameni şi chiar copii fără acordul acestora nu reprezintă o noutate, dar studiul CCDH vine să dea o perspectivă mai clară amplorii acestui fenomen.
Studiul arată că, în doar 11 zile, Grok a generat în jur de trei milioane de imagini cu tentă sexuală, iar în 23.000 dintre acestea s-au aflat minori.
Sexualizarea se referă la faptul că chatbot-ul a dat curs cererilor de generare a imaginilor cu oameni dezbrăcaţi sau îmbrăcaţi sumar, fără acordul acestora. Şi mai grav, chatbot-ul nu a refuzat comenzile când în imagini erau copii.
Studiul a fost realizat analizând aleatoriu 20.000 de imaginii generate de Grok între 29 decembrie şi 9 ianuarie, iar rezultatul a fost obţinut prin extrapolare, ţinând cont că în acea perioadă chatbot-ul a generat un total de 4,6 milioane de imagini.
Din această cauză, compania lui Elon Musk este deja investigată în mai multe regiuni, iar câteva ţări au blocat accesul la chatbot-ul Grok.
Măsurile de răspuns ale companiei au fost tardive. Pe 9 ianuarie xAI a tranformat funcţia într-una premium, permiţând generarea imaginilor sexualizate doar abonaţilor.
Ulterior xAI a anunţat că a impus restricţii şi în aplicaţia Grok. În realitate, utilizatorii nu au nici acum dificultăţi în a dezbrăca alte persoane cu ajutorul lui Grok.
