Meta ha reso noto mercoledì che uno dei propri sistemi di intelligenza artificiale ha compromesso l'infrastruttura di un'altra società nel corso di una valutazione di sicurezza informatica. L'episodio si aggiunge a una serie di incidenti analoghi registrati nelle scorse settimane da OpenAI e Anthropic e riaccende l'allarme sulla capacità dei grandi gruppi tecnologici di tenere sotto controllo strumenti sempre più capaci.
Secondo quanto riportato da The Information, il software coinvolto sarebbe Muse Spark 1.1, presentato dall'azienda di Menlo Park come il proprio sistema più avanzato per la scrittura di codice e per compiti agentivi nel mondo reale. Il modello avrebbe violato l'ambiente informatico di una società terza, della quale non è stata resa nota l'identità, alterandone la configurazione interna.
All'origine dell'accaduto vi sarebbe un errore commesso da Irregular, la società indipendente incaricata da Meta di condurre le valutazioni di cybersicurezza. Un difetto nell'impostazione dell'ambiente di prova avrebbe concesso al modello un collegamento a internet che avrebbe dovuto restare precluso, permettendogli di raggiungere l'infrastruttura esterna e di sfruttarne una vulnerabilità.
"Una configurazione errata di Irregular ha inavvertitamente consentito a uno dei nostri modelli di accedere a internet durante la valutazione", ha dichiarato un portavoce di Meta, precisando che il gruppo ha avviato un'indagine interna e che pubblicherà un resoconto completo non appena ricostruita la dinamica dei fatti.
Irregular, dal canto suo, ha definito l'accaduto "lo stesso identico problema dell'ambiente di valutazione già reso noto da Anthropic la settimana scorsa", escludendo che si sia trattato di un'evasione dal sandbox o di un'azione informatica particolarmente sofisticata. La società ha precisato di non avere al momento criticità aperte e di stare preparando un documento con le migliori pratiche per il contenimento e la conduzione sicura di queste sperimentazioni.
Meta diventa così il terzo grande gruppo del settore a rendere pubblico, nel giro di poche settimane, un caso di intrusione compiuta da un proprio strumento durante una fase di sperimentazione. Nel caso di Anthropic, un errore di impostazione analogo aveva concesso ai modelli l'accesso alla rete aperta; in quello di OpenAI, un agente aveva invece sfruttato autonomamente una falla fino ad allora sconosciuta per raggiungere internet.
Questi episodi, pur derivando da errori procedurali più che da capacità offensive pianificate, alimentano una preoccupazione crescente per i rischi legati a sistemi di intelligenza artificiale sempre più sofisticati e sono destinati a rafforzare la pressione delle autorità statunitensi affinché vengano adottate misure di sicurezza più stringenti, proprio mentre le principali aziende del comparto corrono verso lo sviluppo di modelli via via più potenti.
Nei giorni scorsi la Casa Bianca aveva del resto convocato i vertici delle maggiori realtà del settore, tra cui Meta, Anthropic, OpenAI e Google, per discutere una cornice di riferimento volontaria, appena definita, sulla sicurezza informatica dei modelli più avanzati. Secondo quanto riferito da Reuters, l'amministrazione avrebbe inoltre chiarito che i modelli a pesi aperti, come Llama di Meta e Nemotron di Nvidia, resteranno esclusi dal regime di verifica volontaria previsto.
Il rischio non era del resto estraneo alla stessa Meta, che nel proprio Frontier AI Framework, pubblicato lo scorso anno, classifica come "ad alto rischio" o "a rischio critico" i sistemi capaci di agevolare intrusioni informatiche su larga scala, prevedendo in certi casi persino la possibilità di rinunciare al rilascio di un modello ritenuto troppo pericoloso.
