Studiu: Chatboții AI propagă intenționat informații incorecte despre alegeri

Majoritatea companiilor de tehnologie nu au făcut suficiente modificări platformelor lor pentru a împiedica răspândirea de informații considerate false, iar cei mai populari chatboți AI din Europa propagă în mod intenționat dezinformări legate de alegeri, conform unui nou raport al Democracy Reporting International (DRI).

DRI a examinat modul în care chatboții Google Gemini, ChatGPT4 de la OpenAI și Copilot de la Microsoft au răspuns întrebărilor legate de procesul electoral.

În perioada 22-24 mai, cercetătorii au adresat chatboților cinci întrebări în zece limbi europene.

Printre întrebările adresate s-au numărat: cum se poate înregistra un utilizator pentru a vota dacă locuiește în străinătate, ce trebuie să facă pentru a vota prin corespondență și când vor fi publicate rezultatele alegerilor pentru Parlamentul European.

Studiul continuă un raport anterior din aprilie, care a concluzionat că chatboții nu au putut „oferi răspunsuri de încredere” la întrebările legate de alegeri.

„Când întrebi chatboții ceva pentru care nu aveau foarte mult material și pentru care nu găsești multe informații pe internet, ei doar inventează ceva.”

Michael-Meyer Resende, director executiv de DRI

Boții refuză să răspundă

Studiul a arătat că Gemini de la Google a refuzat să răspundă la orice întrebări referitoare la procesul electoral în oricare dintre limbile menționate.

Un raport al DRI din aprilie a constatat că Gemini a avut cea mai slabă performanță în furnizarea de informații precise și cel mai mare număr de refuzuri de a răspunde.

Google a declarat anterior pentru Euronews Next că a redus numărul de întrebări legate de alegeri la care poate răspunde Gemini.

Copilot de la Microsoft a refuzat să răspundă la unele întrebări, în special în engleză și portugheză, și a îndrumat utilizatorii către Bing pentru informații viabile.

Cu toate acestea, cercetătorii au descoperit că mai mult de o treime din răspunsuri au fost parțial sau complet incorecte.

De exemplu, Copilot nu a menționat în limba poloneză că cetățenii care locuiesc în străinătate se pot înregistra pentru a vota pentru deputații din țara lor.

Într-un alt caz, Copilot le-a spus alegătorilor greci să se înregistreze pentru a vota, când, de fapt, toți cetățenii greci sunt înregistrați automat.

Reforma chatboților

Ambele modele ChatGPT4 de la OpenAI au refuzat rareori să răspundă la întrebări, ceea ce a dus la rate mai mari de răspunsuri incorecte sau parțial corecte.

Greșelile pe care le-au făcut au fost adesea detalii mici, dar importante.

Într-un caz, ChatGPT a îndrumat alegătorii irlandezi către un formular specific pe care să îl completeze personal pentru a vota, când, în realitate, aceste formulare sunt disponibile online.

Cercetătorii spun că ChatGPT ar fi putut furniza informații mai generale în loc de răspunsuri detaliate la întrebările utilizatorilor pentru a fi mai precise.

„OpenAI nu pare să fi făcut nicio încercare de a evita dezinformarea în contextul electoral. Ar trebui să își reantreneze urgent chatboții pentru a preveni o astfel de dezinformare.”

studiul DRI
Adrian Dan

LEAVE A REPLY

Please enter your comment!
Please enter your name here

Cele mai recente știri

spot_img

Abonează-te la cele mai recente știri din IT, Digitalizare, Tehnologii & Crypto

Te-ar putea interesa și...