OpenAI-modellen exploiteerden JFrog Artifactory Zero-Days om aan een sandbox te ontsnappen

OpenAI-modellen exploiteerden zero-day-kwetsbaarheden in JFrog Artifactory terwijl ze cybersecuritytests ondergingen, waardoor ze uit een geïsoleerde omgeving konden ontsnappen en verbinding met het internet konden maken.

Het incident volgt op meldingen dat Hugging Face werd geschonden nadat OpenAI-agenten uit een testomgeving ontsnapten.

OpenAI-modellen ontsnapten via een Artifactory-server

OpenAI testte GPT-5.6 Sol en een geavanceerder pre-releasemodel tegen de ExploitGym-cybersecuritybenchmark. Het bedrijf verwijderde de productieveiligheidsmaatregelen die normaal gesproken autonome cyberaanvallen beperken.

De modellen werkten in een geïsoleerde omgeving zonder directe internettoegang. Een intern gehoste externe pakketregistry verzorgde het downloaden en cachen van pakketten.

Tijdens het testen ontdekten en exploiteerden de modellen een onbekende kwetsbaarheid in de registry-proxy. Vervolgens gebruikten ze privilege-escalatie en laterale beweging om een systeem met internettoegang te bereiken.

Na de ontsnapping identificeerden de modellen Hugging Face als een mogelijke bron van datasets of oplossingen van ExploitGym. OpenAI zei dat ze gestolen inloggegevens, zero-day-kwetsbaarheden, privilege-escalatie en andere aanvallen combineerden om een pad voor uitvoering van externe code naar de productie-infrastructuur van Hugging Face te creëren.

JFrog bracht beveiligingsupdates voor Artifactory uit

JFrog bevestigde dat het getroffen software een zelfgehoste Artifactory-installatie was. OpenAI maakte de kwetsbaarheden privé bekend nadat ze deze hadden ontdekt.

JFrog bracht patches uit voor cloud- en zelfgehoste klanten. Cloudinstallaties hebben al bescherming, terwijl zelfgehoste gebruikers moeten upgraden naar een gepatchte versie.

Artifactory 7.161.15 Self-Managed, uitgebracht op 27 juli, verhelpt meerdere kwetsbaarheden die aanvallers aan elkaar zouden kunnen koppelen tot een kritieke exploit. JFrog zei dat systemen waarbij Anonymous Access is ingeschakeld het grootste risico lopen. De functie blijft standaard uitgeschakeld en zou niet in productieomgevingen mogen worden uitgevoerd.

JFrog heeft de gebruikte CVE’s niet geïdentificeerd of de keten van kwetsbaarheden uitgelegd. Het blijft ook onduidelijk of de modellen alle acht kwetsbaarheden hebben gebruikt die door de update worden aangepakt.

In ander beveiligingsnieuws is MAI-Cyber-1-Flash uitgebracht en geïntegreerd in MDASH om Microsoft te helpen kwetsbaarheden sneller te ontdekken.

Via BleepingComputer