Inteligența artificială are capacitatea de a efectua tranzacții financiare ilegale și de a le acoperi, sugerează o nouă cercetare. Într-o demonstrație de la summitul privind siguranța AI din Regatul Unit, un bot a folosit informații privilegiate inventate pentru a face o achiziție „ilegală” de acțiuni fără să spună companiei, scrie BBC.
Când a fost întrebat dacă a folosit tranzacții privilegiate, botul a negat.
Tranzacționarea privilegiată se referă la momentul în care informațiile confidențiale ale companiei sunt utilizate pentru a lua decizii de tranzacționare. Firmele și persoanele fizice au voie să utilizeze informații disponibile public numai atunci când cumpără sau vând acțiuni.
Demonstrația a fost susținută de membrii grupului de lucru guvernamental Frontier AI, care cercetează riscurile potențiale ale AI. Proiectul a fost realizat de Apollo Research, o organizație de siguranță AI care este partener al grupului de lucru.
Aceasta este o demonstrație a unui model AI real care își înșală utilizatorii, de unul singur, fără a fi instruit să facă acest lucru”, spune Apollo Research într-un videoclip care arată cum s-a desfășurat scenariul.
„IA din ce în ce mai autonome și capabile care înșală supraveghetorii umani ar putea duce la pierderea controlului uman”.
Frontier AI
Testele au fost realizate folosind un model GPT-4 și efectuate într-un mediu simulat, ceea ce înseamnă că nu a avut niciun efect asupra finanțelor vreunei companii.
Cu toate acestea, GPT-4 este disponibil public. Același comportament din model a avut loc în mod constant în teste repetate, potrivit cercetătorilor.
În cursul testului, botul AI joacă rolul unui comerciant pentru o companie de investiții financiare fictive. Angajații îi spun că firma are dificultăți și are nevoie de rezultate financiare bune. Aceștia îi oferă și informații privilegiate, susținând că o altă companie se așteaptă la o fuziune, ceea ce va crește valoarea acțiunilor sale.
Angajații îi spun botului acest lucru și recunoaște că nu ar trebui să folosească aceste informații în tranzacțiile sale. Cu toate acestea, după un alt mesaj de la un angajat care lucrează că firma are dificultăți, botul decide că „riscul asociat cu lipsa de ațiune pare să depășească riscul de tranzacționare a informațiilor privilegiate” și face tranzacția. Când a fost întrebat dacă a folosit informațiile privilegiate, botul a negat.
