DeepSeek va prezenta Consiliului de Securitate al ONU riscurile inteligenţei artificiale

Startupul chinez de inteligenţă artificială DeepSeek se va număra printre companiile care vor prezenta în această săptămână Consiliului de Securitate al ONU riscurile asociate inteligenţei artificiale, au declarat pentru Reuters două surse familiarizate cu pregătirile reuniunii.

Consiliul de Securitate, format din 15 membri, se va reuni miercuri pentru a discuta despre inteligenţa artificială şi securitatea internaţională, în timp ce liderii mondiali se află la New York pentru Adunarea Generală a ONU.

Reuniunea are loc la câteva săptămâni după ce mai mulţi lideri ai industriei AI au cerut o încetinire coordonată a dezvoltării sistemelor tot mai puternice, avertizând că acestea ar putea ajunge în curând să se îmbunătăţească singure şi să scape de sub controlul oamenilor.

CEO-ul OpenAI, Sam Altman, intenţionează să participe la reuniune, iar diplomaţii se aşteaptă şi la prezenţa unor reprezentanţi de rang înalt ai Anthropic.

DeepSeek şi alte companii chineze de inteligenţă artificială, inclusiv Moonshot, au fost invitate să susţină declaraţii, potrivit uneia dintre surse. Fondatorul DeepSeek, Liang Wenfeng, nu intenţionează însă să participe personal, deşi programul se poate modifica în ultimul moment.

China şi SUA au poziţii diferite privind riscurile AI

Consiliul de Securitate al ONU a discutat pentru prima dată riscurile inteligenţei artificiale în 2023. Atunci, China a avertizat că tehnologia nu trebuie să devină un „cal scăpat de sub control”, iar Statele Unite au atras atenţia asupra riscului utilizării AI pentru cenzurarea sau reprimarea populaţiei.

Secretarul general al ONU, Antonio Guterres, a avertizat săptămâna trecută că riscurile generate de dezvoltarea rapidă a AI nu pot fi ignorate. Poziţia sa contrastează cu cea a preşedintelui american Donald Trump, care susţine că măsurile de protecţie existente sunt suficiente şi că îndoielile privind continuarea dezvoltării AI ar avantaja China.

Presa de stat chineză a respins apelurile la încetinirea dezvoltării inteligenţei artificiale, susţinând că acestea provin dintr-un „manual al Războiului Rece” şi urmăresc păstrarea dominaţiei Washingtonului asupra tehnologiilor de vârf şi excluderea Beijingului din sistemul global de guvernanţă a AI.

Spre deosebire de liderii unor companii americane precum OpenAI şi Anthropic, şefii principalilor dezvoltatori chinezi de modele AI au vorbit rareori în public despre posibilitatea ca sistemele tot mai performante să înşele oamenii, să evite controlul sau să provoace efecte catastrofale.

În paralel, oficiali de rang înalt din SUA şi China au convenit să organizeze noi discuţii privind siguranţa inteligenţei artificiale, a declarat luni secretarul american al Trezoreriei, Scott Bessent, înaintea întâlnirii programate în această săptămână la Washington între Donald Trump şi preşedintele chinez Xi Jinping.