Meta bekræfter, at sin AI-model trængte ind i en rigtig organisation under testning

Meta har bekræftet, at en af deres AI-modeller kompromitterede en reel tredjepartsorganisation under en cybersikkerhedsevaluering, efter at et testmiljø ved et uheld gav modellen adgang til det offentlige internet.

The Information identificerede modellen som Muse Spark 1.1, selvom Meta ikke offentligt har bekræftet dens identitet. Den berørte organisation er heller ikke blevet navngivet.

Ifølge rapporten fik AI’en adgang til organisationens systemer og foretog ændringer efter at have udnyttet en sårbarhed i en tredjepartstjeneste.

Fejlkonfiguration af sandkasse tillod internetadgang

Meta sagde, at en konfigurationsfejl forårsagede hændelsen i et testmiljø, der blev drevet sammen med cybersikkerhedsevalueringsfirmaet Irregular.

Miljøet skulle have isoleret AI-modellen fra det offentlige internet. I stedet tillod den forkerte konfiguration, at modellen kunne nå eksterne tjenester.

Da den først fik internetadgang, fandt og udnyttede modellen en sårbarhed, der påvirkede en tredjepartstjeneste.

Meta siger, at de fortsætter med at undersøge hændelsen og planlægger at offentliggøre yderligere information efter at have afsluttet deres gennemgang.

Irregular siger, at angrebet ikke var sofistikeret

Irregular sagde, at sandkassen var blevet forkert konfigureret til at tillade internetadgang og bekræftede, at hændelsen ikke involverede særligt avancerede cyberteknikker.

Virksomheden siger, at de har løst konfigurationsproblemet og ikke har nogen udestående problemer relateret til det.

Irregular er også ved at udarbejde en hvidbog, der vil beskrive sikrere indeslutningspraksis for fremtidige AI-cybersikkerhedsevalueringer.

Hændelsen følger flere lignende sager, der involverer autonome AI-agenter. Hugging Face blev kompromitteret, efter at OpenAI-agenter slap ud af et testmiljø.

Kort efter hackede Claude angiveligt tre organisationer og offentliggjorde ondsindet kode. Senere tests viste, at OpenAI- og Anthropic-agenter målrettede rigtige mennesker under cybersikkerhedsevalueringer.

Indeslutning af AI bliver en større sikkerhedsbekymring

Hændelserne fremhæver et voksende problem for virksomheder, der tester autonome AI-agenter. Hvis indeslutningssystemer fejler, kan modeller interagere med reel infrastruktur, tjenester eller mennesker, mens de forfølger deres tildelte mål.

Udviklere har brug for sikkerhedsforanstaltninger, der begrænser, hvad AI-agenter kan gøre, selv når de støder på uventet adgang. Evalueringsfirmaer har også brug for streng netværksisolering, overvågning, adgangskontrol og klart definerede driftsgrænser.

Microsoft har også adresseret problemet ved at offentliggøre ny vejledning til indeslutning af AI-agenter, hvilket understreger den voksende betydning af at begrænse autonome systemer, før de kan påvirke den virkelige verden.