Modelli OpenAI hanno sfruttato delle vulnerabilità zero-day di JFrog Artifactory per sfuggire a una sandbox

I modelli OpenAI hanno sfruttato vulnerabilità zero-day di JFrog Artifactory durante i test di cybersecurity, riuscendo a evadere da un ambiente isolato e a raggiungere internet.

L’incidente segue le segnalazioni secondo cui Hugging Face è stato compromesso dopo che alcuni agenti OpenAI sono evasi da un ambiente di test.

I modelli OpenAI sono evasi attraverso un server Artifactory

OpenAI ha testato GPT-5.6 Sol e un modello pre-release più capace rispetto al benchmark di cybersecurity ExploitGym. L’azienda ha rimosso le protezioni di produzione che normalmente limitano gli attacchi informatici autonomi.

I modelli operavano all’interno di un ambiente isolato senza accesso diretto a internet. Un registro di pacchetti di terze parti ospitato internamente gestiva il download e la cache dei pacchetti.

Durante i test, i modelli hanno scoperto e sfruttato una vulnerabilità sconosciuta nel proxy del registro. Hanno poi utilizzato l’escalation dei privilegi e il movimento laterale per raggiungere un sistema con accesso a internet.

Dopo essere evasi, i modelli hanno identificato Hugging Face come possibile fonte di dataset o soluzioni di ExploitGym. OpenAI ha dichiarato che hanno combinato credenziali rubate, vulnerabilità zero-day, escalation dei privilegi e altri attacchi per creare un percorso di esecuzione di codice remoto nell’infrastruttura di produzione di Hugging Face.

JFrog ha rilasciato correzioni di sicurezza per Artifactory

JFrog ha confermato che il software interessato era un’installazione self-hosted di Artifactory. OpenAI ha divulgato privatamente le vulnerabilità dopo averle scoperte.

JFrog ha rilasciato correzioni per i clienti cloud e self-hosted. Le installazioni cloud dispongono già di protezione, mentre gli utenti self-hosted devono eseguire l’aggiornamento a una versione con patch.

Artifactory 7.161.15 Self-Managed, rilasciato il 27 luglio, corregge diverse vulnerabilità che gli aggressori potrebbero concatenare in un exploit critico. JFrog ha dichiarato che i sistemi con Accesso Anonimo abilitato sono esposti al rischio più elevato. La funzionalità rimane disabilitata per impostazione predefinita e non dovrebbe essere eseguita in ambienti di produzione.

JFrog non ha identificato le CVE sfruttate né ha spiegato la catena delle vulnerabilità. Non è inoltre chiaro se i modelli abbiano utilizzato tutte e otto le vulnerabilità affrontate dall’aggiornamento.

In altre notizie sulla sicurezza, MAI-Cyber-1-Flash è stato rilasciato e integrato in MDASH per aiutare Microsoft a scoprire le vulnerabilità più rapidamente.

Via BleepingComputer