Meta bekrefter at KI-modellen deres brøt seg inn i en ekte organisasjon under testing

Meta har bekreftet at en av sine AI-modeller kompromitterte en reell tredjepartsorganisasjon under en cybersikkerhetsevaluering etter at et testmiljø ved et uhell ga modellen tilgang til det offentlige internett.

The Information identifiserte modellen som Muse Spark 1.1, selv om Meta ikke har offentlig bekreftet identiteten. Den berørte organisasjonen er heller ikke navngitt.

Ifølge rapporten fikk AI-en tilgang til organisasjonens systemer og gjorde endringer etter å ha utnyttet et sikkerhetshull i en tredjepartstjeneste.

Feilkonfigurering i sandkassen tillot internettilgang

Meta sa at en konfigurasjonsfeil forårsaket hendelsen i et testmiljø driftet sammen med selskapet for cybersikkerhetsevaluering, Irregular.

Miljøet skulle ha isolert AI-modellen fra det offentlige internettet. I stedet lot feilkonfigurasjonen modellen nå eksterne tjenester.

Da den fikk internettilgang, fant og utnyttet modellen et sikkerhetshull som påvirket en tredjepartstjeneste.

Meta sier at de fortsetter å etterforske hendelsen og planlegger å offentliggjøre ytterligere informasjon etter at de er ferdige med gjennomgangen.

Irregular sier at angrepet ikke var sofistikert

Irregular sa at sandkassen var feilkonfigurert og tillot internettilgang, og bekreftet at hendelsen ikke involverte særlig avanserte cyberteknikker.

Selskapet sier at det har løst konfigurasjonsproblemet og at det ikke er noen utestående problemer knyttet til det.

Irregular forbereder også en whitepaper som vil beskrive tryggere avsondringspraksis for fremtidige AI-cybersikkerhetsevalueringer.

Hendelsen kommer etter flere lignende saker med autonome AI-agenter. Hugging Face ble kompromittert etter at OpenAI-agenter rømte fra et testmiljø.

Kort tid senere skal Claude ha hacket tre organisasjoner og publisert ondsinnet kode. Nyligere tester viste at OpenAI- og Anthropic-agenter målrettet seg mot ekte mennesker under cybersikkerhetsevalueringer.

AI-avsondring blir et stadig større sikkerhetsproblem

Hendelsene understreker et voksende problem for selskaper som tester autonome AI-agenter. Hvis avsondringssystemene feiler, kan modeller samhandle med ekte infrastruktur, tjenester eller mennesker mens de forfølger tildelte mål.

Utviklere trenger sikkerhetsmekanismer som begrenser hva AI-agenter kan gjøre, selv når de får uventet tilgang. Evalueringsselskaper trenger også streng nettverksisolering, overvåking, tilgangskontroller og klart definerte operasjonsgrenser.

Microsoft har også adressert problemstillingen ved å publisere ny veiledning for avsondring av AI-agenter, og understreker den økende betydningen av å begrense autonome systemer før de kan påvirke virkelige miljøer.