Nvidia, Microsoft, SpaceX şi alte companii lansează o alianţă pentru siguranţa AI, după atacul cibernetic care a pus în dificultate OpenAI

Nvidia, alături de zeci de companii din domeniul tehnologiei, a lansat luni o nouă iniţiativă dedicată siguranţei inteligenţei artificiale bazate pe modele deschise, pe fondul ecourilor provocate de atacul cibernetic în care modelele OpenAI nu au reuşit să protejeze startup-ul Hugging Face, relatează CNBC.

Săptămâna trecută s-a aflat că Hugging Face, ţinta atacului, nu a putut utiliza cele mai avansate modele americane de inteligenţă artificială pentru a se apăra, deoarece mecanismele de protecţie ale acestora nu au reuşit să facă diferenţa între atacator şi apărător.

Compania a apelat în schimb la un model chinezesc cu parametri deschişi, instalat pe propria infrastructură, care nu era supus aceloraşi restricţii.

În contextul în care autorităţile americane analizează măsuri pentru limitarea utilizării modelelor AI dezvoltate în China, cele mai performante dintre acestea fiind modele deschise, mari companii din sectorul tehnologic au lansat o alianţă destinată dezvoltării şi distribuirii unor instrumente AI deschise pentru securitate cibernetică.

Modelele deschise pot fi descărcate, modificate şi rulate pe infrastructura utilizatorilor, spre deosebire de modelele închise, precum cele dezvoltate de Anthropic şi OpenAI, care pot fi utilizate doar prin infrastructura furnizorilor.

Alianţa mizează pe tehnologii deschise

Noua organizaţie, denumită Open Secure AI Alliance, va avea ca obiectiv identificarea, remedierea şi raportarea vulnerabilităţilor folosind tehnologii deschise.

”Recentul incident de securitate care a vizat Hugging Face a demonstrat foarte clar că specialiştii în apărare cibernetică au nevoie de sisteme AI deschise şi de ultimă generaţie pentru a se putea apăra”, a transmis Nvidia.

Alături de Nvidia, din alianţă fac parte Microsoft, SpaceX, Palantir şi alte zeci de companii din Statele Unite şi Europa.

Washingtonul analizează restricţii pentru modelele chinezeşti

În Statele Unite cresc presiunile pentru limitarea accesului la modelele dezvoltate de companiile chineze de inteligenţă artificială, acuzate că desfăşoară campanii de extragere a informaţiilor din modelele americane prin tehnica numită ”distilare”, prin care un model învaţă din răspunsurile unui model mai performant.

Săptămâna trecută, secretarul Trezoreriei SUA, Scott Bessent, a ameninţat cu sancţiuni împotriva companiilor chineze implicate în astfel de atacuri asupra firmelor americane.

”Există o posibilitate reală ca guvernul Statelor Unite să impună restricţii modelelor chinezeşti”, a declarat Chris McGuire, expert în China şi tehnologii emergente la centrul de analiză Council on Foreign Relations.

Potrivit acestuia, restricţiile ar putea include interzicerea tranzacţiilor care implică astfel de modele, precum achiziţionarea de tokenuri prin API sau găzduirea modelelor chinezeşti în serviciile cloud operate de companii americane.

”La Washington nu este o dezbatere despre modelele open-source versus cele închise. Este o dezbatere despre cât de mult sunt tolerate furturile de proprietate intelectuală comise de companii chineze”, a spus McGuire.

El a precizat că eventualele măsuri ar urma să vizeze companiile chineze şi nu ecosistemul open-source în ansamblu.

Companiile avertizează asupra unor restricţii premature

Posibilele restricţii provoacă însă îngrijorări în industrie, deoarece majoritatea celor mai performante modele AI cu sursă deschisă sunt dezvoltate în prezent de companii chineze.

Săptămâna trecută, Nvidia, Microsoft, Meta, Palantir şi alte peste 20 de companii au publicat o scrisoare prin care au cerut autorităţilor americane să evite ”restricţiile premature” asupra modelelor AI cu parametri deschişi, avertizând că acestea ar putea reduce concurenţa şi împinge inovarea în afara Statelor Unite.

Potrivit Nvidia, incidentul dintre OpenAI şi Hugging Face a demonstrat o realitate practică.

”Atunci când apărătorii nu pot inspecta, adapta şi rula modele AI avansate pe propria infrastructură, capacitatea lor de reacţie este limitată exact în momentul în care viteza contează cel mai mult”, a transmis compania.