Algoritmii de recomandare personalizată utilizați de platforme precum YouTube pot afecta învățarea și pot determina utilizatorii să devină excesiv de încrezători în informații incorecte, chiar și atunci când nu au cunoștințe prealabile despre un subiect, potrivit unei cercetări publicate în această săptămână de către oamenii de știință de la Universitatea de Stat Ohio.
Studiul, care apare în Journal of Experimental Psychology: General, a constatat că atunci când algoritmii au controlat ce informații au văzut 346 de participanți în timpul unei sarcini de învățare, utilizatorii și-au restrâns atenția și au explorat doar un subset limitat de date disponibile. În ciuda răspunsurilor incorecte la întrebările testului, acești participanți au exprimat o încredere mare în răspunsurile lor greșite.
„Dar studiul nostru arată că, chiar și atunci când nu știi nimic despre un subiect, acești algoritmi pot începe să construiască prejudecăți imediat și pot duce la o viziune distorsionată a realității”, a declarat Giwon Bahg, care a condus cercetarea ca parte a tezei sale de doctorat la Ohio State și este acum cercetător postdoctoral la Pennsylvania State University.
Cum modelează algoritmii procesul de învățare
Pentru a testa modul în care personalizarea afectează învățarea, cercetătorii au conceput un experiment folosind „extratereștri de tip cristal” ficționali cu șase caracteristici variabile. Participanții au trebuit să învețe să identifice diferite tipuri de extratereștri fără a ști câte existau. Caracteristicile extratereștrilor erau ascunse în spatele unor casete gri, necesitând ca utilizatorii să dea clic pentru a le dezvălui.
Când un algoritm de personalizare ghida ce caracteristici vedeau participanții—încurajându-i să eșantioneze repetat aceleași caracteristici, permițându-le în același timp să omită altele—utilizatorii au eșantionat mai puține caracteristici în general. Când au fost testați pe exemple noi pe care nu le văzuseră niciodată, aceștia le-au clasificat frecvent incorect pe baza cunoștințelor lor limitate.
„Erau chiar mai încrezători când de fapt greșeau în alegerile lor decât atunci când aveau dreptate, ceea ce este îngrijorător deoarece aveau mai puține cunoștințe,” a spus Bahg.
Co-autorul Brandon Turner, profesor de psihologie la Ohio State, a spus că rezultatele indică faptul că oamenii acceptă cu ușurință informații limitate de la algoritmi și construiesc generalizări ample. „Oamenii pierd informații când urmează un algoritm, dar cred că ceea ce știu se generalizează la alte caracteristici și alte părți ale mediului pe care nu le-au experimentat niciodată,” a spus Turner.
Descoperirile au o importanță deosebită pentru copiii care învață despre lume prin intermediul platformelor conduse de algoritmi care prioritizează consumul de conținut în detrimentul educației cuprinzătoare, a remarcat Turner. „Consumul de conținut similar adesea nu este aliniat cu învățarea. Acest lucru poate cauza probleme pentru utilizatori și, în ultimă instanță, pentru societate,” a spus el.
Cercetarea se adaugă preocupărilor crescânde cu privire la modul în care algoritmii de personalizare creează bule de filtrare și consolidează prejudecățile existente, deși majoritatea studiilor anterioare s-au concentrat pe subiecte politice sau sociale unde utilizatorii aveau deja opinii. Vladimir Sloutsky, de asemenea profesor de psihologie la Ohio State, a fost co-autor al studiului.
