Gartner: Inteligența artificială generativă a devenit un risc pentru organizații

Un sondaj realizat in randul a 249 de directori seniori responsabili pentru gestionarea riscurilor din organizatii releva cele mai importante 5 riscuri identificate in al doilea trimestru al anului 2023

Disponibilitatea pe scara larga a inteligentei artificiale (IA) generative, cum ar fi ChatGPT de la OpenAI sau Google Bard, a devenit in al doilea trimestru al anului 2023 o preocupare de prim rang pentru directorii responsabili pentru gestionarea riscurilor din organizatii, dupa cum releva analistii Gartner.

„Intelligentia artificiala generativa a fost al doilea cel mai frecvent risc identificat in cadrul sondajului nostru din al doilea trimestru, aparand pentru prima data in top 10”, a spus Ran Xu, director de cercetare in cadrul Gartner Risk & Audit Practice. „Acest lucru reflecta atat cresterea rapida a gradului de constientizare a publicului si utilizarea instrumentelor IA generative, cat si amploarea potentialelor cazuri de utilizare si, prin urmare, riscurile potentiale pe care le genereaza aceste instrumente”, a completat Ran Xu.

In luna mai 2023, Gartner a chestionat 249 de directori seniori responsabili pentru gestionarea riscurilor din organizatii pentru a oferi liderilor o viziune comparativa a 20 de riscuri emergente. Rapoartele Quarterly Emerging Risk Reports includ informatii detaliate despre impactul posibil, intervalul de timp, nivelul de atentie si oportunitatile percepute pentru aceste riscuri.

Viabilitatea tertilor a fost principalul risc care a aparut rapid pe care organizatiile il monitorizeaza cel mai indeaproape in sondajul din trimestrul 2 al acestui an (vezi tabelul 1). Incertitudinea planificarii financiare a fost al treilea risc, urmat de riscul de concentrare in cloud. Tensiunile comerciale din China au completat lista primelor cinci riscuri care au fost impartite intre problemele simptomatice ale volatilitatii macroeconomice si geopolitice generale actuale si preocuparile legate de tehnologie.

Tabelul 1: Cinci dintre cele mai frecvent citate riscuri emergente in T2 2023

Sursa: Gartner (august 2023)

Disponibilitatea pe scara larga a IA generative

Gartner a identificat anterior sase riscuri ale IA generative si patru domenii de reglementare a IA care sunt relevante pentru functiile care dau incredere. In ceea ce priveste gestionarea riscului organizatiei, potrivit expertilor Gartner trebuie abordate trei aspecte principale:

• Proprietatea intelectuala

   „Informatiile introduse intr-un instrument de IA generativa pot deveni parte a setului sau de instruire, ceea ce inseamna ca informatiile sensibile sau confidentiale ar putea ajunge in rezultate pentru alti utilizatori”, a spus Xu. „Mai mult, utilizarea rezultatelor acestor instrumente ar putea sfarsi prin a incalca din neatentie drepturile de proprietate intelectuala ale altora care le-au folosit”, a detaliat el.

   Este important sa educam conducerea organizatiei cu privire la necesitatea prudentei si a transparentei in ceea ce priveste utilizarea unor astfel de instrumente, astfel incat riscurile de proprietate intelectuala sa poata fi gestionate in mod corespunzator, atat in ceea ce priveste introducerea de date, cat si rezultatul obtinut prin instrumentele de IA generativa.

• Confidentialitatea datelor

Instrumentele de IA generativa pot partaja informatii despre utilizator cu terte parti, cum ar fi furnizorii sau furnizorii de servicii, fara notificare prealabila. Acest lucru are potentialul de a incalca legea confidentialitatii in multe jurisdictii. De exemplu, reglementarile au fost deja implementate in China si UE, cu propuneri de reglementari aparute in SUA, Canada, India si Marea Britanie, printre altele.

• Securitatea cibernetica

„Hackerii testeaza mereu noi tehnologii pentru a gasi modalitati de a le utiliza pentru propriile lor scopuri, iar inteligenta artificiala generativa nu este diferita”, a spus Xu. „Am vazut exemple de coduri malware si ransomware pe care IA generativa a fost pacalita sa le produca, precum si atacuri de „prompt injections” care pot pacali aceste instrumente pentru a oferi informatii pe care nu ar trebui sa le partajeze. Acest lucru duce la industrializarea atacurilor avansate de phishing”, a completat Xu.

Cauzele si implicatiile riscului de viabilitate a tertilor

„Inflatia persistenta, care raspunde mai putin la cresterea ratei dobanzii si care persista o durata mai lunga decat se anticipa, a marit presiunile pe costuri si pe marja aplicate asupra tertilor”, a spus Xu. „Pe masura ce bancile centrale cresc ratele dobanzilor pentru a lupta impotriva inflatiei, acest lucru duce, de asemenea, la un proces de inasprire a creditelor, care poate forta furnizorii sa suspende operatiunile sau sa devina insolvabili pe masura ce costurile indatorarii cresc”, a explicat Xu.

In cazul in care conditiile economice se deterioreaza pe sacra larga, acest lucru poate cauza o scadere neasteptata a cererii care ar putea afecta viabilitatea furnizorilor sau capacitatea acestora de a furniza bunuri si servicii in timp util. Expertii Gartner au identificat trei consecinte potentiale ale viabilitatii tertilor furnizori pe care managerii de risc trebuie sa le monitorizeze pe masura ce situatia evolueaza:

• Pierderea de informatii si materiale cheie: Daca tertii isi maresc preturile din cauza situatiei economice de ansamblu, exista un risc clar de a pierde accesul la informatii si materiale cheie, deoarece tertii ar favoriza clientii dispusi sa plateasca preturi mai mari.
• Ipotezele nerealiste de planificare financiara: Ipotezele de evolutie a costurilor vor deveni invalide pe masura ce furnizorii cresc preturile sau esueaza, necesitand costuri de schimbare si preturi crescute pentru obtinerea de bunuri si servicii.
• Provocarile din afara lantului de aprovizionare: Partenerii, cum ar fi furnizorii de administrarea serviciilor sau partenerii comerciali, creditorii sau furnizorii de tehnologie isi pot inceta sau reduce operatiunile.