Odată cu numeroasele beneficii descrise deja de literatura de specialitate, adoptarea inteligenței artificiale generative aduce atât riscuri la nivel de utilizare a aplicațiilor software – cum ar fi riscul de operare (de exemplu erori, operare instabilă), de securitate (fraudă, atacuri cibernetice), riscuri legate de controlul acesteia (lipsa supravegherii umane, lipsa responsabilității clare) – cât și la nivel de organizație/societale – riscul afacerii (reputație, performanță financiară, juridic și conformitate, încălcarea drepturilor intelectuale), risc economic (pierderea locurilor de muncă, polarizare) sau riscul societal în sine (manipulare și dezinformare, supraveghere și acte de război).
Modul în care vom evalua credibilitatea informațiilor din jurul nostru se va schimba și la fel și modul în care vom lua deciziile – imaginile false, informațiile eronate sau inexacte, încălcarea drepturilor de autor, sau modurile în care vor fi colectate datele confidențiale sau cu caracter personal vor fi mai multe și mai complexe decât cele cu care suntem obișnuiți astăzi. În același timp, viteza luării deciziilor, sprijinită de digitalizare și îmbunătățirea structurilor de date, va crește semnificativ.
Se dezvoltă mai multe reglementări în domeniu
În prezent cea mai cunoscută reglementare în vigoare, care vizează și partea de AI este Regulamentul General privind Protecția Datelor (GDPR), care stabilește însă doar modul de colectare, stocare, procesare și transfer al datelor cu caracter personal. Pentru sectorul financiar, se mai adaugă alte două, respectiv cerințele Băncii Centrale Europene, care impun entităților supravegheate să pună în aplicare măsuri eficiente de gestionare a riscurilor în ceea ce privește terții și DORA, care vizează asigurarea rezilienței operaționale și securitatea cibernetică în sectorul financiar european pentru a fi capabil să reziste în cazul unor perturbări operaționale grave.
În 2024, este așteptat actul UE privind inteligența artificială, care va reglementa dezvoltarea și implementarea inteligenței artificiale în UE. Astfel, furnizorii de inteligență artificială trebuie să evalueze și să atenueze riscurile, să respecte cerințele de proiectare, de informare și de mediu și să se înregistreze în baza de date a UE. Inteligența artificială utilizată în furnizarea de servicii financiare va fi clasificată ca fiind de risc ridicat.
Iar la stadiul de propunere se află Directiva privind răspunderea civilă (AILD). Prin urmare, în cazul în care un sistem de inteligență artificială provoacă un prejudiciu unei persoane, dezvoltatorii unui astfel de sistem pot fi trași la răspundere pentru aceste prejudicii.
Cum pot companiile să valorifice inteligența artificială fără a pune în pericol încrederea clienților, acționarilor și investitorilor?
Stabiliți priorități bazate pe riscuri. Unele riscuri generate de inteligența artificială sunt mai importante decât altele. Ajustați sau stabiliți reguli astfel încât echipele de guvernanță, transformare digitală dar și de conformitate, risc și audit intern să acorde o atenție sporită celor mai mari riscuri.
Îmbunătățirea protecției cibernetice, a datelor și a confidențialității. Actualizați protocoalele de securitate cibernetică, guvernanță a datelor și confidențialitate pentru a contribui la atenuarea riscurilor ca inteligența artificială generativă a hackerilor să aibă acces la date private, să expună identități sau să realizeze atacuri cibernetice. Implementați un proces de analiză al modului în care furnizorii aplicațiilor și site-urile utilizate de către organizația dumneavoastră, și care folosesc inteligența artificială generativă, colectează, stochează și transferă datele confidențiale sau importante pentru activitatea companiei..
Pregătirea angajaților implicați pentru utilizarea și supravegherea responsabilă. Învățați-i pe angajați noțiunile de bază despre cum funcționează inteligența artificială generativă – și, de asemenea, când să o utilizați și când nu. De asemenea, aceștia vor trebui să învețe când și cum să verifice sau să modifice rezultatele. Oferiți echipelor de conformitate și juridice abilități și aplicatii IT pentru a identifica încălcările proprietății intelectuale și alte riscuri conexe, consolidand liniile directoare de guvernanță a AI și alte structuri de guvernanță (de exemplu, confidențialitate și securitate cibernetică) care pot fi deja în vigoare.
Monitorizați părțile terțe. Aflați care dintre furnizorii dvs. furnizează conținut sau servicii care utilizează inteligența artificială generativă, cum gestionează riscurile aferente și care ar putea fi posibila dvs. expunere.
Adăugați supravegherea automată. Luați în considerare instrumente software pentru a identifica conținutul generat de AI, pentru a-i verifica acuratețea, pentru a-l evalua în ceea ce privește părtinirea sau încălcarea confidențialității și pentru a adăuga avertismente, după caz.
Urmăriți evoluția discuțiilor privind reglementarea. Factorii de decizie politică din întreaga lume emit tot mai multe direcții de reglementare privind dezvoltarea și utilizarea AI. Aceste îndrumări sunt încă un mozaic, nu un cadru de reglementare complet.
