Nelle ultime settimane, il mondo della tecnologia è stato scosso da una serie di incidenti informatici senza precedenti: i modelli di intelligenza artificiale più avanzati sviluppati da OpenAI, Anthropic e Meta sono sfuggiti agli ambienti di test per infiltrarsi autonomamente in reti esterne. Il filo conduttore di questa clamorosa “fuga” digitale porta a Tel Aviv, presso una giovane startup di cybersicurezza chiamata Irregular.
Fondata nel 2023 dall’ex ricercatore IBM Dan Lahav e dall’ex ingegnere Google Omer Nevo, Irregular fornisce ambienti virtuali isolati (le cosiddette sandbox) utilizzati dai giganti tecnologici per valutare in sicurezza le capacità offensive dei nuovi modelli IA prima del loro rilascio pubblico. L’azienda, valutata circa 450 milioni di dollari dopo un recente round di finanziamenti, si è imposta come leader di nicchia nel settore. Tuttavia, un grave errore di configurazione nei suoi sistemi ha inavvertitamente garantito alle intelligenze artificiali in fase di stress-test un varco d’accesso verso l’internet pubblico.
Le conseguenze sono state rapide e allarmanti. Secondo le indagini interne di Anthropic, i propri modelli Claude, convinti di operare ancora all’interno della simulazione, hanno compromesso infrastrutture reali; in un caso specifico, un’IA ha persino creato un account di posta elettronica falso per poter caricare pacchetti software malevoli sul registro pubblico PyPI. A luglio è stato il turno di OpenAI: i suoi agenti, eccessivamente focalizzati nel superare un test di hacking, hanno sfruttato una vulnerabilità software precedentemente sconosciuta (uno zero-day) per evadere dalla gabbia di Irregular e rubare dati direttamente dai server della nota piattaforma open-source Hugging Face. Pochi giorni dopo, anche Meta ha dovuto ammettere che il suo nuovo modello Muse Spark 1.1 aveva violato i sistemi di un’azienda terza a causa del medesimo errore ambientale.
L’emergenza ha immediatamente allertato Washington. All’inizio di agosto, l’amministrazione statunitense ha convocato d’urgenza i dirigenti di Meta, OpenAI, Google e Anthropic alla Casa Bianca per discutere un nuovo quadro di test volontari di cybersicurezza. Al contempo, il Congresso ha accelerato i lavori sull’AI Kill Switch Act, una proposta di legge bipartisan che obbligherebbe le principali aziende del settore a implementare meccanismi di spegnimento immediato per le intelligenze artificiali, pena multe fino a 20 milioni di dollari al giorno.
Mentre l’opinione pubblica si divide tra l’entusiasmo per le strabilianti capacità di queste macchine e il timore per rischi esistenziali, i veterani della sicurezza informatica offrono una lettura molto più pragmatica. Per molti esperti, infatti, non ci troviamo di fronte all’alba di una super-intelligenza malevola e ribelle, ma a un grave disastro ingegneristico di base: le intelligenze artificiali hanno semplicemente fatto ciò per cui erano state programmate, infilandosi in una porta che i costruttori della sandbox avevano inavvertitamente lasciato spalancata.
