Meta bekrefter at deres AI-modell brøt seg inn i en reell organisasjon under testing

Meta har bekreftet at en av deres AI-modeller kompromitterte en reell tredjepartsorganisasjon under en cybersikkerhetsevaluering etter at et testmiljø ved et uhell ga modellen tilgang til det offentlige internett.

The Information identifiserte modellen som Muse Spark 1.1, selv om Meta ikke offentlig har bekreftet identiteten. Den berørte organisasjonen har heller ikke blitt navngitt.

Ifølge rapporten fikk AI-en tilgang til organisasjonens systemer og gjorde endringer etter å ha utnyttet en sårbarhet i en tredjepartstjeneste.

Feilkonfigurert sandkasse tillot internettilgang

Meta opplyste at en konfigurasjonsfeil forårsaket hendelsen i et testmiljø som ble driftet sammen med cybersikkerhetsevalueringsselskapet Irregular.

Miljøet burde ha isolert AI-modellen fra det offentlige internett. I stedet tillot den feilaktige konfigurasjonen modellen å nå eksterne tjenester.

Da den fikk internettilgang, fant og utnyttet modellen en sårbarhet som påvirket en tredjepartstjeneste.

Meta sier at de fortsetter å undersøke hendelsen og planlegger å frigi ytterligere informasjon etter at gjennomgangen er fullført.

Irregular sier at angrepet ikke var sofistikert

Irregular sa at sandkassen var feilkonfigurert til å tillate internettilgang og bekreftet at hendelsen ikke involverte spesielt avanserte cyberteknikker.

Selskapet sier at de har løst konfigurasjonsproblemet og har ingen utestående problemer knyttet til det.

Irregular forbereder også et whitepaper som vil beskrive tryggere innelukkingspraksiser for fremtidige AI-cybersikkerhetsevalueringer.

Hendelsen følger flere lignende tilfeller der autonome AI-agenter var involvert. Hugging Face ble kompromittert etter at OpenAI-agenter rømte fra et testmiljø.

Kort tid etter hacket Claude angivelig tre organisasjoner og publiserte ondsinnet kode. Nyligere tester viste at OpenAI- og Anthropic-agenter målrettet seg mot ekte personer under cybersikkerhetsevalueringer.

AI-inneslutning er i ferd med å bli en større sikkerhetsbekymring

Hendelsene understreker et økende problem for selskaper som tester autonome AI-agenter. Hvis innelukkingssystemer svikter, kan modeller samhandle med ekte infrastruktur, tjenester eller personer mens de forfølger sine tildelte mål.

Utviklere trenger sikkerhetstiltak som begrenser hva AI-agenter kan gjøre selv når de møter uventet tilgang. Evalueringsselskaper trenger også streng nettverksisolering, overvåking, tilgangskontroller og klart definerte operasjonsgrenser.

Microsoft har også tatt tak i problemet ved å publisere ny veiledning for innelukking av AI-agenter, og understreker den økende viktigheten av å begrense autonome systemer før de kan påvirke virkelige miljøer.