Departamentul de Comerț din SUA propune impunerea unor cerințe detaliate de raportare pentru dezvoltatorii de inteligență artificială (AI) avansată și furnizorii de servicii de cloud computing, pentru a se asigura că aceste tehnologii sunt sigure și rezistente la atacuri cibernetice.
Propunerea Biroului pentru Securitate Industrială și Comercială din cadrul departamentului ar stabili obligația raportării activităților de dezvoltare a modelelor de AI „frontieră” și a clusterelor de calcul către guvernul federal.
De asemenea, ar impune raportarea măsurilor de securitate cibernetică, precum și a rezultatelor testelor de tip „red-teaming” pentru a evalua capacitățile periculoase, cum ar fi ajutorul în atacuri cibernetice sau reducerea barierelor pentru neexperți în dezvoltarea de arme chimice, biologice, radiologice sau nucleare.
Departamentul de Comerț a subliniat că informațiile colectate în cadrul acestei propuneri vor fi esențiale pentru a se asigura că aceste tehnologii îndeplinesc standarde stricte de siguranță și fiabilitate, rezistă atacurilor cibernetice și prezintă un risc limitat de utilizare greșită de către adversari străini sau actori nestatali.
Echipa Roșie e de bază
Testele externe de tip „red-teaming” sunt utilizate de mulți ani în domeniul securității cibernetice pentru a identifica riscuri noi, termenul făcând referire la simulările din timpul Războiului Rece din SUA, unde inamicul era desemnat drept „echipa roșie”.
AI generativă – care poate crea texte, imagini și videoclipuri ca răspuns la comenzi deschise – a stârnit atât entuziasm, cât și temeri că ar putea elimina locuri de muncă, afecta alegeri și chiar depăși controlul uman, provocând efecte catastrofale.
Președintele Joe Biden a semnat în octombrie 2023 un ordin executiv care obligă dezvoltatorii de sisteme AI care prezintă riscuri pentru securitatea națională a SUA, economie, sănătatea publică sau siguranță să împărtășească rezultatele testelor de siguranță cu guvernul SUA înainte de a fi lansate publicului.
Această regulă ar stabili cerințe de raportare pentru modelele avansate de AI și clusterele de calcul. Propunerea vine într-un moment în care acțiunile legislative în Congres pe tema AI au fost blocate.
