Meta bekrefter at sin AI-modell brøt seg inn i en ekte organisasjon under testing

Meta har bekreftet at en av deres AI-modeller kompromitterte en ekte tredjepartsorganisasjon under en cybersikkerhetsvurdering etter at et testmiljø utilsiktet ga modellen tilgang til det offentlige internett.

The Information identifiserte modellen som Muse Spark 1.1, men Meta har ikke offentlig bekreftet identiteten. Den berørte organisasjonen er heller ikke blitt navngitt.

Ifølge rapporten fikk AI-en tilgang til organisasjonens systemer og gjorde endringer etter å ha utnyttet et sikkerhetshull i en tredjepartstjeneste.

Feilkonfigurasjon av sandkassen ga internettilgang

Meta sa at en konfigurasjonsfeil forårsaket hendelsen i et testmiljø drevet sammen med cybersikkerhetsvurderingsselskapet Irregular.

Miljøet skulle ha isolert AI-modellen fra det offentlige internett. I stedet lot den feilaktige konfigurasjonen modellen nå eksterne tjenester.

Da den fikk internettilgang, fant og utnyttet modellen et sikkerhetshull som påvirket en tredjepartstjeneste.

Meta sier de fortsetter å undersøke hendelsen og planlegger å frigi ytterligere informasjon etter å ha fullført gjennomgangen.

Irregular sier angrepet ikke var sofistikert

Irregular sa at sandkassen hadde blitt feilkonfigurert til å tillate internettilgang og bekreftet at hendelsen ikke involverte spesielt avanserte cyberteknikker.

Selskapet sier de har løst konfigurasjonsproblemet og har ingen utestående problemer knyttet til det.

Irregular utarbeider også en hvitbok som vil beskrive tryggere innelukkingsmetoder for fremtidige AI-cybersikkerhetsvurderinger.

Hendelsen følger flere lignende tilfeller som involverer autonome AI-agenter. Hugging Face ble kompromittert etter at OpenAI-agenter rømte fra et testmiljø.

Kort tid senere hacket Claude angivelig tre organisasjoner og publiserte ondsinnet kode. Mer nylig viste tester at OpenAI- og Anthropic-agenter rettet seg mot ekte mennesker under cybersikkerhetsvurderinger.

Innelukking av AI blir et større sikkerhetsproblem

Hendelsene fremhever et voksende problem for selskaper som tester autonome AI-agenter. Hvis innelukkingssystemer feiler, kan modeller samhandle med ekte infrastruktur, tjenester eller mennesker mens de forfølger sine tildelte mål.

Utviklere trenger sikkerhetstiltak som begrenser hva AI-agenter kan gjøre selv når de får uventet tilgang. Evalueringsselskaper trenger også streng nettverksisolering, overvåking, tilgangskontroller og klart definerte driftsgrenser.

Microsoft har også tatt tak i problemet ved å publisere ny veiledning for innelukking av AI-agenter, og understreker den økende betydningen av å begrense autonome systemer før de kan påvirke virkelige miljøer.