Cercetătorii de la Microsoft au dezvăluit în această săptămână o vulnerabilitate critică în sistemele globale de biosecuritate, demonstrând că instrumentele de proiectare a proteinelor bazate pe inteligență artificială pot crea versiuni sintetice ale unor toxine letale care trec neobservate de sistemele de screening de siguranță menite să prevină dezvoltarea armelor biologice.
Studiul, publicat pe 2 octombrie în Science, a expus modul în care AI-ul poate „parafraza” planurile genetice ale proteinelor periculoase—rescriind secvențele lor ADN, păstrându-le totuși structura letală și, potențial, funcția—pentru a evita detecția de către programele de screening folosite de companiile de sinteză ADN din întreaga lume.
Răspunsul între industrii acoperă o lacună critică
Conduși de Eric Horvitz, Chief Scientific Officer la Microsoft, echipa de cercetare a descoperit vulnerabilitatea de tip zero-day printr-un exercițiu de red-teaming care a generat peste 75.000 de variante de proteine periculoase, inclusiv toxine și proteine virale. Secvențele proiectate de AI au reușit să treacă cu succes de software-ul standard de screening pentru biosecuritate în testele inițiale, toxinele reformulate „trecând fără probleme prin tehnicile de screening”, potrivit lui Horvitz.
Descoperirea a determinat un efort colaborativ urgent care a durat 10 luni, implicând Twist Bioscience, Integrated DNA Technologies și mai mulți furnizori de software pentru screeningul biosecurității pentru a dezvolta și implementa patch-uri. După actualizări, sistemele de screening detectează acum 97% dintre cele mai periculoase variante generate de AI, deși aproximativ 3% încă scapă detecției.
Riscurile cu utilizare dublă evidențiază amenințarea biologică tot mai mare a inteligenței artificiale
Vulnerabilitatea provine din aceleași instrumente AI care revoluționează descoperirea de medicamente și cercetarea medicală. Microsoft a folosit propriul său software de proiectare a proteinelor, EvoDiff, alături de alte instrumente open-source pentru a modifica toxine precum ricina și botulinum în simulări digitale. Deși nu au fost produse proteine toxice reale, cercetarea a demonstrat cum bioteroriștii ar putea exploata AI pentru a eluda măsurile de protecție.
„Progresele AI alimentează descoperiri în biologie și medicină, însă odată cu noua putere vine responsabilitatea pentru vigilență și gestionarea atentă a riscurilor,” a declarat Horvitz într-un briefing de presă.
Emily Leproust, CEO-ul Twist Bioscience, a subliniat natura evolutivă a amenințării: „Pe măsură ce capabilitățile AI evoluează, practicile de screening trebuie să evolueze la fel de rapid”. Compania din South San Francisco, care procesează mii de comenzi de sinteză ADN, a raportat mai puțin de cinci comenzi suspecte către forțele de ordine în ultimul deceniu.
credit foto: miscrosoft.com
