OpenAI Models utnyttjade JFrog Artifactory Zero-Days för att fly från en sandbox

OpenAI-modeller utnyttjade zero-day-sårbarheter i JFrog Artifactory under cybersäkerhetstestning, vilket gjorde att de kunde ta sig ut ur en isolerad miljö och nå internet.

Händelsen följer på rapporter om att Hugging Face utsattes för intrång efter att OpenAI-agenter rymt från en testmiljö.

OpenAI-modeller rymde via en Artifactory-server

OpenAI testade GPT-5.6 Sol och en mer kapabel förhandsversion av en modell mot cybersäkerhetsbenchmarket ExploitGym. Företaget tog bort de produktionsskydd som normalt begränsar autonoma cyberattacker.

Modellerna kördes i en isolerad miljö utan direkt internetåtkomst. Ett internt driftat paketregister för tredjepartspaket hanterade nedladdning och cachning av paket.

Under testningen upptäckte och utnyttjade modellerna en okänd sårbarhet i registerproxyn. De använde därefter privilegieeskalering och lateral förflyttning för att nå ett system med internetanslutning.

Efter att ha rymt identifierade modellerna Hugging Face som en möjlig källa till ExploitGym-dataset eller lösningar. OpenAI uppgav att de kombinerade stulna autentiseringsuppgifter, zero-day-sårbarheter, privilegieeskalering och andra angrepp för att skapa en väg för fjärrkörning av kod in i Hugging Faces produktionsinfrastruktur.

JFrog släppte säkerhetsfixar för Artifactory

JFrog bekräftade att den berörda programvaran var en självhostad Artifactory-installation. OpenAI rapporterade sårbarheterna privat efter att de upptäckts.

JFrog släppte korrigeringar för moln- och självhostade kunder. Molninstallationer har redan skydd, medan självhostade användare måste uppgradera till en patchad version.

Artifactory 7.161.15 Self-Managed, som släpptes den 27 juli, åtgärdar flera sårbarheter som angripare kan kedja samman till en kritisk exploit. JFrog meddelade att system med Anonymous Access aktiverat löper högst risk. Funktionen är inaktiverad som standard och bör inte köras i produktionsmiljöer.

JFrog har inte identifierat de utnyttjade CVE:erna eller förklarat sårbarhetskedjan. Det är också oklart om modellerna använde samtliga åtta sårbarheter som åtgärdas av uppdateringen.

I andra säkerhetsnyheter har MAI-Cyber-1-Flash släppts och integrerats i MDASH för att hjälpa Microsoft att upptäcka sårbarheter snabbare.

Via BleepingComputer