Meta spune că va introduce pe platformele sale Facebook, Instagram și Threads o tehnologie care poate detecta și eticheta imaginile generate de instrumentele de inteligență artificială (AI) ale altor companii.
Cum va funcționa acest sitem?
În primul rând, Meta a recunoscut că instrumentul său nu va funcționa pentru postări audio și video – în ciuda faptului că acestea sunt țintele pe care se concentrează o mare parte din preocupările cu privire la falsurile create folosind AI.
Dar, Meta le va cere utilizatorilor să își eticheteze propriile postări audio și video și că „poate aplica sancțiuni dacă nu fac acest lucru”.
Meta etichetează deja imaginile AI generate de propriile sisteme și speră că noua tehnologie, aflată încă în construcție, va crea un „impuls” pentru ca industria să lupte împotriva imaginilor falsificate cu ajutorul AI.
Directorul executiv al Meta, Sir Nick Clegg, spune că firma intenționează să extindă acest sitem de etichetare a falsurilor create de AI „în lunile următoare”, scrie BBC.
Dar, într-un interviu acordat agenției de presă Reuters, el a recunoscut că tehnologia „nu este încă pe deplin matură”.
Sistemul va putea fi eludat
Profesorul Soheil Feizi, directorul Reliable AI Lab de la Universitatea din Maryland, a sugerat că un astfel de sistem ar putea fi ușor de folosit.
„Ar putea fi capabili să își antreneze detectorul pentru a putea semnala unele imagini generate în mod specific de anumite modele specific. Dar acei detectori pot fi eludați cu ușurință printr-o procesare ușoară pe deasupra imaginilor și, de asemenea, pot avea o rată mare de imaginie fals pozitive. Deci, nu cred că este posibil pentru o gamă largă de aplicații.”
Soheil Feizi
Sir Nick Clegg spune că va fi, de asemenea, imposibil, să verifice dacă un text a fost creat de instrumente precum ChatGPT.
Critici de la Consiliul de Administrație
Luni, Consiliul de Supraveghere al Meta a criticat compania pentru politica sa privind manipulările din mass-media, numind-o „incoerentă, lipsită de justificări convingătoare și concentrată într-un mod necorespunzător asupra modului în care a fost creat conținutul”.
Consiliul de Supraveghere este finanțat de Meta, dar este independent de companie. Potrivit consiliului, Meta ar trebui mai degrabă să eticheteze postările false în loc să le elimine.
Critica a venit ca răspuns la o decizie a Meta privind un videoclip al președintelui american Joe Biden, în care imaginile cu acesta și cu nepoata sa au fost editate pentru a face să pară că el o atingea într-un mod nepotrivit.
Deoarece nu a fost manipulat folosind AI și l-a înfățișat pe Biden comportându-se într-un mod în care nu a făcut-o, Meta a considerat că acel clip nu încalcă politica sa. Drept urmare, Meta nu l-a eliminate de pe site.
Consiliul a fost de acord că videoclipul nu a încălcat regulile actuale ale Meta privind știrile false, dar a spus că regulile ar trebui actualizate.
Sir Nick Clegg a recunoscut că politica existentă a Meta „pur și simplu nu este potrivită pentru aceste scopuri într-un mediu în care vom avea mult mai mult conținut sintetic și conținut hibrid decât înainte”.
Din ianuarie, compania a implementat o serie de măsuri prin care reclamele politice trebuie să semnaleze când folosesc imagini sau videoclipuri modificate digital.
