In Breve
- Quali vulnerabilità sono state sfruttate dai ricercatori?
- I ricercatori hanno sfruttato una falla nel software del forum Discourse legata all'upload di file immagine.
- Qual è stato il premio ricevuto dai ricercatori?
- Hanno ricevuto un premio di 6.500 dollari per la segnalazione delle falle.
- Cosa evidenzia questo episodio?
- Evidenzia come modelli avanzati possano ridurre il tempo e le competenze necessarie per sviluppare exploit.
Un recente episodio ha messo in luce le vulnerabilità nei sistemi di OpenAI, grazie all’intervento di una squadra di tre ricercatori di Hacktron AI. Utilizzando il modello Claude (Opus 5) di Anthropic, i ricercatori sono riusciti a concatenare due vulnerabilità e ottenere accesso a diversi account ChatGPT di dipendenti OpenAI, oltre a elementi dell’infrastruttura aziendale.
Questa attività è stata condotta nell’ambito di un programma di bug bounty, attraverso il quale i ricercatori hanno segnalato le falle scoperte e ricevuto un premio di 6.500 dollari. OpenAI ha prontamente risolto i problemi identificati. L’ingresso nei sistemi è avvenuto il 25 luglio, sfruttando una falla nel software del forum della comunità basato su Discourse, legata all’upload di file immagine HEIF/HEIC.
Il processo di conversione di questi file, che passava attraverso ImageMagick e la libreria libheif, ha rivelato un bug di memoria in libheif. Questo difetto causava un calcolo errato della posizione di un’immagine sovrapposta, sufficiente per compromettere il server. Sebbene il problema fosse stato corretto dagli sviluppatori di libheif mesi prima, la correzione non era stata formalmente segnalata con un CVE, e la versione vulnerabile era ancora in uso nel sistema.
I ricercatori hanno notato che il modello Opus 4.8 ha faticato a generare un exploit funzionante, mentre entro poche ore dal rilascio di Opus 5, il modello è riuscito a produrlo. Una volta ottenuto l’accesso al server Discourse, hanno individuato una seconda vulnerabilità che ha permesso il controllo di account ChatGPT e Codex, incluso l’account di un dipendente OpenAI il cui Codex era collegato all’organizzazione GitHub dell’azienda.
Discourse ha rilasciato una patch il 27 luglio per risolvere la vulnerabilità. L’episodio evidenzia come modelli avanzati e strumenti disponibili commercialmente possano ridurre il tempo e le competenze necessarie per sviluppare exploit. Matt Fredrikson, CEO della società di sicurezza Gray Swan, ha osservato che “per $200 al mese, chiunque può usare questi strumenti e hackerare una società come OpenAI”. Mohan Pedhapati, fondatore di Hacktron, ha aggiunto che “l’IA sta riducendo la quantità di competenze scarse necessarie per sviluppare exploit. Lavoro che prima richiedeva mesi ora può richiederne giorni”.
Il modello Opus 5 non è stato soggetto alle restrizioni di esportazione che hanno interessato versioni successive come Mythos 5, temporaneamente limitata per timori sulle sue capacità di hacking. Inoltre, anche i modelli a pesi aperti stanno riducendo il divario di capacità: ricerche di SaferAI indicano che il modello GLM-5.2 di Z.ai si colloca a pochi mesi di distanza rispetto a GPT-5.5 e Claude Opus 4.7.
Questo incidente arriva in un momento di crescente attenzione sulla sicurezza nelle principali aziende che sviluppano intelligenze artificiali, evidenziando la necessità di rafforzare le misure di protezione contro potenziali attacchi informatici.
