Un raport internațional recent despre inteligența artificială (IA), lansat înainte de un summit care va avea loc luna viitoare în Franța, arată că sistemele avansate de IA au potențialul de a crea riscuri extreme, precum pierderi masive de locuri de muncă, posibilitatea de a sprijini terorismul sau pierderea controlului asupra tehnologiei.
Raportul Științific Internațional despre Siguranța IA Avansată este susținut de 30 de țări, inclusiv Statele Unite și China, marcând o cooperare rară între cele două țări, care se află într-o competiție asupra tehnologiei.
„Miza este mare. Astăzi, IA de uz general poate scrie programe de computer, genera imagini fotorealiste personalizate și purta conversații extinse și deschise,” spune raportul, menționând că acum câțiva ani, cele mai bune sisteme de IA abia puteau produce un paragraf coerent.
În timp ce unele dintre pericolele IA sunt deja larg cunoscute, cum ar fi deepfake-urile, înșelătoriile și rezultatele părtinitoare, raportul afirmă că „pe măsură ce IA de uz general devine mai capabilă, apar dovezi de riscuri suplimentare” și tehnicile de gestionare a riscurilor sunt abia în stadii incipiente.
Raportul se concentrează pe IA de uz general, tipică pentru chatboți precum ChatGPT de la OpenAI, care sunt folosiți pentru a îndeplini tipuri diferite de sarcini.
Riscurile sunt împărțite în trei categorii: utilizare malițioasă, defecțiuni și riscuri „sistemice” pe scară largă.
IA face mai ușor, de exemplu, să înveți cum să creezi arme biologice sau chimice, deoarece modelele IA pot oferi planuri detaliate pas cu pas.
Totuși, „nu este clar cât de bine surprind ele provocările practice” de a arma și livra agenții, se spune în raport.
De asemenea, IA de uz general este probabil să transforme o gamă largă de locuri de muncă și „să înlocuiască lucrători,” spune raportul, menționând că unii cercetători cred că ar putea crea mai multe locuri de muncă decât ar elimina, în timp ce alții consideră că va reduce salariile sau ratele de angajare, deși există multă incertitudine asupra modului în care se va desfășura.
Sistemele de IA ar putea scăpa și de sub control, fie pentru că subminează activ supravegherea umană, fie pentru că oamenii acordă mai puțină atenție, afirmă raportul.
Creatorii de IA nu știu mare lucru despre creația lor
Totuși, o serie de factori fac dificilă gestionarea riscurilor, inclusiv faptul că dezvoltatorii de IA știu puține lucruri despre cum funcționează modelele lor, spun autorii.
Raportul a fost comandata la un summit global inaugural privind siguranța IA organizat de Marea Britanie în noiembrie 2023, unde națiunile au convenit să colaboreze pentru a conține riscuri „catastrofale” posibile.
La o întâlnire ulterioară găzduită de Coreea de Sud anul trecut, companiile de IA s-au angajat să dezvolte IA, în timp ce liderii mondiali au susținut înființarea unei rețele de institute publice pentru siguranța IA.
Raportul, susținut și de Națiunile Unite și Uniunea Europeană, este destinat să reziste schimbărilor din guverne, cum ar fi tranziția recentă la președinția SUA, lăsând fiecărei țări libertatea de a alege cum să răspundă riscurilor IA.
Lideri mondiali, șefi ai companiilor de tehnologie și reprezentanți ai societății civile sunt așteptați să se reunească din nou la Summitul pentru Acțiune IA din Paris luna viitoare.
Oficialii francezi au declarat că țările vor semna o „declarație comună” privind dezvoltarea IA și vor adopta un angajament pentru dezvoltarea sustenabilă a tehnologiei.
