Meta bekräftar att dess AI-modell gjorde intrång i en verklig organisation under testning.

Meta har bekräftat att en av deras AI-modeller äventyrade en verklig tredjepartsorganisation under en cybersäkerhetsutvärdering, efter att en testmiljö av misstag gav modellen tillgång till det öppna internet.

The Information identifierade modellen som Muse Spark 1.1, även om Meta inte offentligt har bekräftat dess identitet. Den drabbade organisationen har inte heller namngetts.

Enligt rapporten fick AI:n tillgång till organisationens system och gjorde ändringar efter att ha utnyttjat en sårbarhet i en tredjepartstjänst.

Felkonfiguration av sandlåda tillät internetåtkomst

Meta uppgav att ett konfigurationsfel orsakade incidenten i en testmiljö som drevs tillsammans med cybersäkerhetsutvärderingsföretaget Irregular.

Miljön borde ha isolerat AI-modellen från det öppna internet. Istället tillät den felaktiga konfigurationen modellen att nå externa tjänster.

När modellen väl fick internetåtkomst hittade och utnyttjade den en sårbarhet som påverkade en tredjepartstjänst.

Meta säger att de fortsätter att undersöka incidenten och planerar att släppa ytterligare information efter att ha slutfört sin granskning.

Irregular säger att attacken inte var sofistikerad

Irregular sade att sandlådan hade konfigurerats felaktigt för att tillåta internetåtkomst och bekräftade att incidenten inte innefattade särskilt avancerade cybertekniker.

Företaget säger att de har löst konfigurationsproblemet och att det inte finns några kvarstående problem relaterade till det.

Irregular förbereder också en white paper som kommer att beskriva säkrare inneslutningsmetoder för framtida AI-cybersäkerhetsutvärderingar.

Incidenten följer på flera liknande fall med autonoma AI-agenter. Hugging Face utsattes för ett intrång efter att OpenAI-agenter rymde från en testmiljö.

Snart därefter hackade Claude enligt uppgift tre organisationer och publicerade skadlig kod. Nyligen visade tester att OpenAI- och Anthropic-agenter riktade sig mot verkliga människor under cybersäkerhetsutvärderingar.

AI-inneslutning blir ett allt större säkerhetsproblem

Incidenterna belyser ett växande problem för företag som testar autonoma AI-agenter. Om inneslutningssystemen misslyckas kan modeller interagera med verklig infrastruktur, tjänster eller människor medan de fullföljer sina tilldelade mål.

Utvecklare behöver skyddsåtgärder som begränsar vad AI-agenterna kan göra även när de stöter på oväntad åtkomst. Utvärderingsföretag behöver också strikt nätverksisolering, övervakning, åtkomstkontroller och tydligt definierade driftsgränser.

Microsoft har också tagit upp frågan genom att publicera ny vägledning för inneslutning av AI-agenter, vilket betonar den växande vikten av att begränsa autonoma system innan de kan påverka verkliga miljöer.