În ultimele zile, Reddit a fost scena unui scandal care a stârnit nemulțumiri în rândul utilizatorilor săi din întreaga lume. Un grup de cercetători a lansat o serie de boturi alimentate de inteligența artificială pe subreddit-ul „Change My View”, experimentând cu puterea de persuasiune a acestor entități automatizate ce imită comportamentele umane. Aceste boturi au generat peste 1.700 de comentarii, adoptând identități variate, de la supraviețuitori ai abuzurilor până la susținători ai unor puncte de vedere controversate, cum ar fi anti-movementul Black Lives Matter.
Pentru Reddit, acest incident a reprezentat un coșmar în miniatură. Reputația platformei este strâns legată de autenticitatea sa, un loc unde utilizatorii reali pot să își împărtășească opiniile și experiențele fără teama de a fi manipulați. Dacă acest ecosistem bazat pe interacțiuni umane autentice ar fi perturbat de boturi alimentate de AI, iar utilizatorii nu ar mai avea încredere că informațiile provin de la oameni reali, impactul ar putea depăși granițele identității platformei. De asemenea, situația ar putea pune în pericol modelul de business al Reddit, întrucât compania vinde deja conținutul său pentru antrenarea OpenAI.
Un experiment etic incorect
Reddit a condamnat vehement acest „experiment impropriu și extrem de neetic”, depunând o plângere la universitatea care a coordonat cercetarea. Cu toate acestea, acest incident nu reprezintă decât un exemplu dintr-o serie de posibile abuzuri în care boturile AI vor înlocui interacțiunile umane pe platforme, cu scopuri științifice, dar și manipulative din punct de vedere politic. De aceea, Reddit intenționează să aplice măsuri mai stricte pentru a proteja utilizatorii de manipularea boturilor și pentru a păstra autenticitatea platformei.
În acest context, compania a anunțat, pe neașteptate, că va implementa un sistem de verificare a utilizatorilor pentru a se asigura că aceștia sunt oameni reali, nu entități automate. Steve Huffman, CEO-ul Reddit, a explicat într-o postare că platforma va începe să colaboreze cu diverse servicii externe pentru a verifica umanitatea utilizatorilor. Această schimbare majoră vine într-un moment în care Reddit nu a solicitat aproape nicio informație personală pentru crearea unui cont.
Protejarea anonimității utilizatorilor
„Pentru a păstra Reddit uman și pentru a respecta cerințele de reglementare în continuă schimbare, va trebui să obținem puțin mai multe informații,” a declarat Huffman. „În mod specific, vom avea nevoie să știm dacă ești un om, și în unele locații, dacă ești adult. Dar nu vrem niciodată să știm numele tău sau cine ești.”
Aceste măsuri sunt în concordanță cu reglementările care au fost deja implementate de alte platforme sociale, care au început să introducă verificări ale vârstei pentru a proteja copiii. De exemplu, în Statele Unite, cel puțin nouă state și Regatul Unit au adoptat legi care cer verificarea vârstei pentru utilizatorii de platforme online.
Cu toate acestea, măsurile de verificare nu sunt lipsite de controverse. Unii critici atrag atenția asupra riscurilor de confidențialitate și securitate a datelor, având în vedere că platformele de social media, inclusiv Reddit, vor colecta informații personale care ar putea fi utilizate ulterior într-un mod necontrolat. De exemplu, în unele situații, autoritățile ar putea solicita informațiile despre utilizatori, așa cum s-a întâmplat în cazul Meta, când conversațiile private între o femeie din Nebraska și fiica sa adolescentă au fost folosite pentru a obține un mandat de percheziție.
Posibilele soluții de verificare
Reddit nu a oferit detalii precise despre serviciile externe cu care va colabora pentru procesul de verificare, dar este de așteptat ca platformele de verificare să implice tehnologii deja consacrate, cum ar fi Persona, Alloy sau Stripe Identity, care cer de obicei un act de identitate emis de autoritățile guvernamentale pentru a verifica vârsta și umanitatea utilizatorilor.
Cu toate acestea, există și soluții mai recente și mai speculative, precum dispozitivul „proof of human” al Sam Altman, care utilizează scanarea ochilor pentru a verifica dacă cineva este cu adevărat uman. Huffman a menționat, însă, că Reddit nu va căuta niciodată să afle identitatea utilizatorilor sau alte detalii care le-ar încălca intimitatea.
În ciuda noilor măsuri de verificare, Huffman a subliniat că Reddit va continua să fie extrem de protector cu informațiile personale ale utilizatorilor săi. „Anonimitatea este esențială pentru Reddit,” a afirmat el, adăugând că platforma va continua să reziste cerințelor excesive sau nerezonabile din partea autorităților publice sau private.
