Un grup compus din 13 actuali și foști angajați ai companiilor de inteligență artificială (AI), inclusiv OpenAI și DeepMind, și-au exprimat îngrijorarea cu privire la riscurile prezentate de această tehnologie emergentă.
Într-o scrisoare deschisă, aceștia au subliniat că motivele financiare ale companiilor de inteligență artificială împiedică o supraveghere eficientă.
„Nu credem că structurile personalizate de guvernanță corporativă sunt suficiente pentru a schimba acest lucru”.
Scrisoarea avertizează asupra riscurilor generate de lipsa de reglementare a AI, de la răspândirea dezinformării până la pierderea controlului asupra sistemelor independente de AI și adâncirea inegalităților existente, care ar putea duce la „dispariția rasei umane”.
Lipsă de reglementare și lipsă de încredere
Companiile de inteligență artificială au „obligații reduse” de a împărtăși informații cu guvernele despre capacitățile și limitările sistemelor lor, se arată în scrisoare, adăugând că nu se poate avea încredere că aceste firme vor partaja aceste informații în mod voluntar.
Scrisoarea reprezintă cea mai recentă tentativă de a analiza problemele de siguranță în legătură cu tehnologia AI generativă, care poate produce rapid și ieftin texte, imagini și sunete asemănătoare celor create de oameni.
Grupul a îndemnat firmele de inteligență artificială să faciliteze un proces prin care actualii și foștii angajați să poată ridica preocupări legate de riscuri, fără a aplica acordurile de confidențialitate care interzic criticile.
Separat, firma condusă de Sam Altman, CEO al OpenAI, a declarat joi că a întrerupt cinci operațiuni care încercau să utilizeze modelele de inteligență artificială pentru „activitate înșelătoare” pe internet.
