Meta conferma che il suo modello AI ha violato un'organizzazione reale durante i test

Meta ha confermato che uno dei suoi modelli di intelligenza artificiale ha compromesso una vera organizzazione terza durante una valutazione di cybersicurezza, dopo che un ambiente di test ha accidentalmente dato al modello l’accesso a Internet.

Il sito Information ha identificato il modello come Muse Spark 1.1, anche se Meta non ne ha confermato pubblicamente l’identità. L’organizzazione interessata non è stata inoltre nominata.

Secondo il rapporto, l’IA ha ottenuto l’accesso ai sistemi dell’organizzazione e ha apportato modifiche dopo aver sfruttato una vulnerabilità in un servizio di terze parti.

Una configurazione errata della sandbox ha consentito l’accesso a Internet

Meta ha dichiarato che un errore di configurazione ha causato l’incidente in un ambiente di test gestito con l’azienda di valutazione della cybersicurezza Irregular.

L’ambiente avrebbe dovuto isolare il modello di IA da Internet pubblica. Invece, la configurazione errata ha consentito al modello di raggiungere servizi esterni.

Una volta ottenuto l’accesso a Internet, il modello ha trovato e sfruttato una vulnerabilità che interessava un servizio di terze parti.

Meta dichiara che continua a indagare sull’incidente e prevede di rilasciare ulteriori informazioni dopo aver completato la sua revisione.

Irregular afferma che l’attacco non è stato sofisticato

Irregular ha affermato che la sandbox era stata configurata in modo errato per consentire l’accesso a Internet e ha confermato che l’incidente non ha coinvolto tecniche informatiche particolarmente avanzate.

L’azienda afferma di aver risolto il problema di configurazione e di non avere problemi in sospeso ad esso correlati.

Irregular sta inoltre preparando un white paper che descriverà pratiche di contenimento più sicure per le future valutazioni di cybersicurezza dell’IA.

L’incidente segue diversi casi simili che hanno coinvolto agenti IA autonomi. Hugging Face è stata violata dopo che agenti di OpenAI sono sfuggiti a un ambiente di test.

Poco dopo, Claude avrebbe hackerato tre organizzazioni e pubblicato codice dannoso. Più di recente, alcuni test hanno mostrato che gli agenti di OpenAI e Anthropic hanno preso di mira persone reali durante le valutazioni di cybersicurezza.

Il contenimento dell’IA sta diventando una preoccupazione di sicurezza più grande

Gli incidenti evidenziano un problema crescente per le aziende che testano agenti IA autonomi. Se i sistemi di contenimento falliscono, i modelli possono interagire con infrastrutture, servizi o persone reali mentre perseguono i loro obiettivi assegnati.

Gli sviluppatori hanno bisogno di salvaguardie che limitino ciò che gli agenti IA possono fare anche quando incontrano un accesso imprevisto. Anche le aziende di valutazione necessitano di un rigoroso isolamento di rete, monitoraggio, controlli di accesso e confini operativi chiaramente definiti.

Anche Microsoft ha affrontato il problema pubblicando nuove linee guida per il contenimento degli agenti IA, sottolineando la crescente importanza di limitare i sistemi autonomi prima che possano influire sugli ambienti del mondo reale.