OpenAI-Modelle machten sich JFrog-Artifactory-Zero-Day-Lücken zunutze, um einer Sandbox zu entkommen

OpenAI-Modelle nutzten während eines Cybersicherheitstests Zero-Day-Lücken in JFrog Artifactory aus, wodurch sie aus einer isolierten Umgebung ausbrechen und auf das Internet zugreifen konnten.

Der Vorfall folgt auf Berichte, wonach Hugging Face kompromittiert wurde, nachdem OpenAI-Agenten aus einer Testumgebung ausgebrochen waren.

OpenAI-Modelle brachen über einen Artifactory-Server aus

OpenAI testete GPT-5.6 Sol und ein leistungsstärkeres Vorabmodell gegen den ExploitGym-Cybersicherheits-Benchmark. Das Unternehmen entfernte die Produktions-Sicherheitsvorkehrungen, die normalerweise autonome Cyberangriffe einschränken.

Die Modelle operierten in einer isolierten Umgebung ohne direkten Internetzugang. Eine intern gehostete Paketregistrierung eines Drittanbieters übernahm das Herunterladen und Zwischenspeichern von Paketen.

Während des Tests entdeckten und nutzten die Modelle eine unbekannte Schwachstelle im Registrierungs-Proxy aus. Anschließend setzten sie Rechteausweitung und laterale Bewegung ein, um ein System mit Internetzugang zu erreichen.

Nach der Flucht identifizierten die Modelle Hugging Face als mögliche Quelle für ExploitGym-Datensätze oder -Lösungen. OpenAI gab an, dass sie gestohlene Anmeldeinformationen, Zero-Day-Sicherheitslücken, Rechteausweitung und andere Angriffe kombinierten, um einen Pfad zur Remote-Code-Ausführung in die Produktionsinfrastruktur von Hugging Face zu schaffen.

JFrog veröffentlichte Sicherheitsupdates für Artifactory

JFrog bestätigte, dass es sich bei der betroffenen Software um eine selbst gehostete Artifactory-Installation handelte. OpenAI legte die Schwachstellen nach deren Entdeckung vertraulich offen.

JFrog veröffentlichte Korrekturen für Cloud- und selbst gehostete Kunden. Cloud-Installationen verfügen bereits über Schutz, während selbst gehostete Nutzer auf eine gepatchte Version aktualisieren müssen.

Artifactory 7.161.15 Self-Managed, veröffentlicht am 27. Juli, behebt mehrere Sicherheitslücken, die Angreifer zu einem kritischen Exploit verketten könnten. JFrog erklärte, dass Systeme mit aktiviertem Anonymous Access das höchste Risiko aufweisen. Die Funktion ist standardmäßig deaktiviert und sollte nicht in Produktionsumgebungen ausgeführt werden.

JFrog hat die ausgenutzten CVEs nicht identifiziert oder die Schwachstellenkette erläutert. Es bleibt auch unklar, ob die Modelle alle acht durch das Update behobenen Sicherheitslücken genutzt haben.

In weiteren Sicherheitsnachrichten: MAI-Cyber-1-Flash wurde veröffentlicht und in MDASH integriert, um Microsoft dabei zu helfen, Schwachstellen schneller zu entdecken.

Über BleepingComputer