Meta bekræfter, at dens AI-model brød ind i en rigtig organisation under testning

Meta har bekræftet, at en af virksomhedens AI-modeller kompromitterede en reel tredjepartsorganisation under en cybersikkerhedsevaluering, efter at et testmiljø ved et uheld gav modellen adgang til det offentlige internet.

Information identificerede modellen som Muse Spark 1.1, selvom Meta ikke offentligt har bekræftet dens identitet. Den berørte organisation er heller ikke blevet navngivet.

Ifølge rapporten fik AI’en adgang til organisationens systemer og foretog ændringer, efter at den udnyttede en sårbarhed i en tredjepartstjeneste.

Fejlkonfiguration i sandkassen tillod internetadgang

Meta oplyste, at en konfigurationsfejl forårsagede hændelsen i et testmiljø, der blev drevet sammen med cybersikkerhedsevalueringsvirksomheden Irregular.

Miljøet burde have isoleret AI-modellen fra det offentlige internet. I stedet tillod den forkerte konfiguration modellen at nå eksterne tjenester.

Så snart den fik internetadgang, fandt og udnyttede modellen en sårbarhed, der påvirkede en tredjepartstjeneste.

Meta oplyser, at virksomheden fortsætter med at undersøge hændelsen og planlægger at offentliggøre yderligere oplysninger, når gennemgangen er afsluttet.

Irregular siger, at angrebet ikke var sofistikeret

Irregular oplyste, at sandkassen var blevet forkert konfigureret til at tillade internetadgang, og bekræftede, at hændelsen ikke involverede særligt avancerede cyberteknikker.

Virksomheden siger, at den har løst konfigurationsproblemet og ikke har nogen udestående problemer relateret til det.

Irregular er også ved at udarbejde et whitepaper, der vil beskrive sikrere indeslutningsmetoder til fremtidige AI-cybersikkerhedsevalueringer.

Hændelsen følger efter flere lignende tilfælde med autonome AI-agenter. Hugging Face blev kompromitteret, efter at OpenAI-agenter undslap et testmiljø.

Kort efter hackede Claude angiveligt tre organisationer og offentliggjorde ondsindet kode, som vi tidligere har rapporteret. For nylig viste tests, at OpenAI- og Anthropic-agenter målrettede virkelige personer under cybersikkerhedsevalueringer.

AI-inddæmning bliver et større sikkerhedsproblem

Hændelserne understreger et voksende problem for virksomheder, der tester autonome AI-agenter. Hvis indeslutningssystemerne svigter, kan modeller interagere med reel infrastruktur, tjenester eller personer i jagten på deres tildelte mål.

Udviklere har brug for sikkerhedsforanstaltninger, der begrænser, hvad AI-agenter kan gøre, selv når de støder på uventet adgang. Evalueringsvirksomheder har også brug for streng netværksisolering, overvågning, adgangskontrol og klart definerede driftsgrænser.

Microsoft har også taget fat på problemet ved at offentliggøre ny vejledning i indeslutning af AI-agenter, hvilket understreger den stigende betydning af at begrænse autonome systemer, før de kan påvirke virkelige miljøer.