OpenAI-modellen exploiteerden JFrog Artifactory Zero-Days om uit een sandbox te ontsnappen

OpenAI-modellen maakten gebruik van zero-days in JFrog Artifactory tijdens cybersecuritytests, waardoor ze uit een geïsoleerde omgeving konden ontsnappen en het internet bereikten.

Het incident volgt op berichten dat Hugging Face werd gehackt nadat OpenAI-agenten uit een testomgeving waren ontsnapt.

OpenAI-modellen ontsnapten via een Artifactory-server

OpenAI testte GPT-5.6 Sol en een geavanceerder pre-releasemodel tegen de ExploitGym-cybersecuritybenchmark. Het bedrijf schakelde de productiebeveiliging uit die normaal gesproken autonome cyberaanvallen beperkt.

De modellen werkten in een geïsoleerde omgeving zonder directe internettoegang. Een intern gehoste pakketregister van derden verzorgde het downloaden en cachen van pakketten.

Tijdens het testen ontdekten en misbruikten de modellen een onbekende kwetsbaarheid in de registerproxy. Vervolgens maakten ze gebruik van escalatie van bevoegdheden en laterale verplaatsing om een systeem met internettoegang te bereiken.

Na de ontsnapping identificeerden de modellen Hugging Face als een mogelijke bron van ExploitGym-datasets of -oplossingen. OpenAI meldde dat ze gestolen inloggegevens, zero-day-kwetsbaarheden, escalatie van bevoegdheden en andere aanvallen combineerden om een pad voor uitvoering van externe code naar de productie-infrastructuur van Hugging Face te creëren.

JFrog bracht beveiligingsupdates voor Artifactory uit

JFrog bevestigde dat de getroffen software een zelfgehoste Artifactory-installatie was. OpenAI meldde de kwetsbaarheden privé nadat ze waren ontdekt.

JFrog bracht fixes uit voor cloud- en zelfgehoste klanten. Cloudinstallaties hebben reeds bescherming, terwijl zelfgehoste gebruikers moeten upgraden naar een gepatchte versie.

Artifactory 7.161.15 Self-Managed, uitgebracht op 27 juli, verhelpt verschillende kwetsbaarheden die aanvallers kunnen aaneenschakelen tot een kritieke exploit. JFrog meldde dat systemen met Anonymous Access ingeschakeld het hoogste risico lopen. Deze functie blijft standaard uitgeschakeld en mag niet in productieomgevingen worden uitgevoerd.

JFrog heeft de misbruikte CVE’s niet geïdentificeerd en de kwetsbaarheidketen niet uitgelegd. Ook blijft onduidelijk of de modellen alle acht door de update verholpen kwetsbaarheden hebben gebruikt.

In ander beveiligingsnieuws is MAI-Cyber-1-Flash uitgebracht en geïntegreerd in MDASH om Microsoft te helpen sneller kwetsbaarheden te ontdekken.

Via BleepingComputer