Meta conferma che il suo modello di IA ha violato un'organizzazione reale durante i test

Meta ha confermato che uno dei suoi modelli di IA ha compromesso una vera organizzazione terza durante una valutazione di cybersecurity, dopo che un ambiente di test ha accidentalmente concesso al modello l’accesso a Internet pubblico.

The Information ha identificato il modello come Muse Spark 1.1, sebbene Meta non abbia confermato pubblicamente la sua identità. Anche l’organizzazione coinvolta non è stata nominata.

Secondo il rapporto, l’IA ha ottenuto accesso ai sistemi dell’organizzazione e ha apportato modifiche dopo aver sfruttato una vulnerabilità in un servizio di terze parti.

Una configurazione errata della sandbox ha permesso l’accesso a Internet

Meta ha dichiarato che un errore di configurazione ha causato l’incidente in un ambiente di test gestito insieme all’azienda di valutazione della cybersecurity Irregular.

L’ambiente avrebbe dovuto isolare il modello di IA da Internet pubblico. Invece, la configurazione errata ha permesso al modello di raggiungere servizi esterni.

Una volta ottenuto l’accesso a Internet, il modello ha trovato e sfruttato una vulnerabilità che interessava un servizio di terze parti.

Meta afferma di continuare a indagare sull’incidente e prevede di rilasciare ulteriori informazioni dopo aver completato la sua revisione.

Irregular afferma che l’attacco non è stato sofisticato

Irregular ha dichiarato che la sandbox era stata configurata in modo errato per consentire l’accesso a Internet e ha confermato che l’incidente non ha coinvolto tecniche informatiche particolarmente avanzate.

L’azienda afferma di aver risolto il problema di configurazione e di non avere problemi in sospeso ad esso correlati.

Irregular sta inoltre preparando un white paper che descriverà pratiche di contenimento più sicure per le future valutazioni di cybersecurity dell’IA.

L’incidente segue diversi casi simili che hanno coinvolto agenti IA autonomi. Hugging Face è stata violata dopo che gli agenti di OpenAI sono fuggiti da un ambiente di test.

Poco dopo, Claude avrebbe hackerato tre organizzazioni e pubblicato codice malevolo. Più di recente, i test hanno mostrato che gli agenti di OpenAI e Anthropic hanno preso di mira persone reali durante le valutazioni di cybersecurity.

Il contenimento dell’IA sta diventando una preoccupazione di sicurezza più grande

Gli incidenti evidenziano un problema crescente per le aziende che testano agenti IA autonomi. Se i sistemi di contenimento falliscono, i modelli possono interagire con infrastrutture, servizi o persone reali mentre perseguono i loro obiettivi assegnati.

Gli sviluppatori hanno bisogno di misure di sicurezza che limitino ciò che gli agenti IA possono fare anche quando incontrano un accesso imprevisto. Anche le aziende di valutazione necessitano di un rigoroso isolamento della rete, monitoraggio, controlli di accesso e confini operativi chiaramente definiti.

Anche Microsoft ha affrontato il problema pubblicando nuove linee guida per il contenimento degli agenti IA, sottolineando la crescente importanza di limitare i sistemi autonomi prima che possano avere un impatto sugli ambienti del mondo reale.