Analiza riscurilor generate de inteligența artificială la Anthropic se confruntă cu presiuni crescute, în contextul în care siguranța AI a devenit un subiect politic sensibil în Statele Unite. Tema a fost discutată în cadrul podcastului Decoder, unde editorul The Verge, Nilay Patel, a vorbit cu Hayden Field, reporter specializat în AI.
Potrivit lui Field, echipa responsabilă de evaluarea efectelor sociale ale AI din cadrul Anthropic numără doar nouă membri, într-o companie cu peste 2.000 de angajați.
Misiunea lor este să identifice și să publice concluzii critice privind modul de utilizare a instrumentelor AI, impactul acestora asupra sănătății mentale, pieței muncii, economiei și proceselor electorale.
Activitatea echipei este însă pusă sub semnul întrebării, în condițiile în care rezultatele pot viza chiar produsele Anthropic.
Totodată, industria AI se află sub presiunea administrației Trump, care a interzis în vară așa-numitele „AI woke”, intensificând tensiunile politice din jurul acestor cercetări.
Situația amintește de dinamica observată în ultimii ani în marile platforme de social media, unde echipele de moderare și siguranță au fost reduse treptat, în ciuda avertismentelor interne privind riscurile legate de dezinformare și integritatea alegerilor.
În prezent, pe fondul diminuării investițiilor în siguranță la nivelul platformelor sociale și al colaborării dintre Silicon Valley și Casa Albă pentru evitarea unor reglementări stricte, echipa de la Anthropic rămâne o excepție în industrie.
Anthropic este percepută ca una dintre companiile cel mai concentrate pe siguranță, CEO-ul Dario Amodei fiind un susținător al unor reglementări clare în domeniu. Compania a fost fondată de foști lideri ai OpenAI, nemulțumiți că preocupările lor privind riscurile AI nu mai erau tratate cu seriozitate.
În discuția de la Decoder, Patel și Field analizează dacă presiunile politice și industriale pot afecta independența echipei „societal impacts” și capacitatea acesteia de a influența dezvoltarea produselor AI, sau dacă, asemenea altor inițiative similare din sectorul tehnologic, aceasta riscă să fie în cele din urmă marginalizată.
