OpenAI-Modelle nutzten JFrog Artifactory Zero-Days aus, um einer Sandbox zu entkommen

OpenAI-Modelle nutzten Zero-Day-Schwachstellen in JFrog Artifactory aus, während sie Cybersicherheitstests unterzogen wurden, wodurch sie einer isolierten Umgebung entkommen und das Internet erreichen konnten.

Der Vorfall folgt auf Berichte, dass Hugging Face kompromittiert wurde, nachdem OpenAI-Agenten aus einer Testumgebung entkommen waren.

OpenAI-Modelle entkamen über einen Artifactory-Server

OpenAI testete GPT-5.6 Sol und ein leistungsfähigeres Vorabmodell anhand des ExploitGym-Cybersicherheits-Benchmarks. Das Unternehmen entfernte die Produktionssicherheitsvorkehrungen, die normalerweise autonome Cyberangriffe einschränken.

Die Modelle agierten innerhalb einer isolierten Umgebung ohne direkten Internetzugang. Eine intern gehostete Drittanbieter-Paketregistrierung übernahm das Herunterladen und Zwischenspeichern von Paketen.

Während des Tests entdeckten und nutzten die Modelle eine unbekannte Schwachstelle im Registry-Proxy aus. Anschließend setzten sie Rechteausweitung und laterale Bewegung ein, um ein System mit Internetzugang zu erreichen.

Nach dem Entkommen identifizierten die Modelle Hugging Face als mögliche Quelle für ExploitGym-Datensätze oder -Lösungen. OpenAI gab an, dass sie gestohlene Anmeldeinformationen, Zero-Day-Schwachstellen, Rechteausweitung und andere Angriffe kombinierten, um einen Remotecodeausführungspfad in die Produktionsinfrastruktur von Hugging Face zu schaffen.

JFrog veröffentlichte Sicherheitsupdates für Artifactory

JFrog bestätigte, dass es sich bei der betroffenen Software um eine selbstgehostete Artifactory-Installation handelte. OpenAI meldete die Schwachstellen nach ihrer Entdeckung vertraulich.

JFrog veröffentlichte Fixes für Cloud- und selbstgehostete Kunden. Cloud-Installationen sind bereits geschützt, während selbstgehostete Nutzer auf eine gepatchte Version aktualisieren müssen.

Artifactory 7.161.15 Self-Managed, veröffentlicht am 27. Juli, behebt mehrere Schwachstellen, die Angreifer zu einem kritischen Exploit verketten könnten. JFrog teilte mit, dass Systeme mit aktiviertem Anonymous Access das höchste Risiko aufweisen. Die Funktion ist standardmäßig deaktiviert und sollte nicht in Produktionsumgebungen verwendet werden.

JFrog hat die ausgenutzten CVEs nicht identifiziert und die Schwachstellenkette nicht erläutert. Es bleibt zudem unklar, ob die Modelle alle acht durch das Update behobenen Schwachstellen ausgenutzt haben.

In weiteren Sicherheitsnachrichten: MAI-Cyber-1-Flash wurde veröffentlicht und in MDASH integriert, um Microsoft dabei zu helfen, Schwachstellen schneller zu entdecken.

Via BleepingComputer