Secondo cinque persone a conoscenza della vicenda, per anni i dipendenti di OpenAI hanno sollevato preoccupazioni sulle pratiche di sicurezza interne dell’azienda, anche prima del lancio di ChatGPT, alla fine del 2022. Alcuni membri del personale hanno condiviso gli avvertimenti con i dirigenti senior e i membri del consiglio di amministrazione e, in seguito, hanno avuto la sensazione che la dirigenza desse priorità alla competizione con Google e Anthropic rispetto alla sicurezza, hanno riferito le fonti a Reuters.
Le preoccupazioni riguardavano l’ampio accesso alle informazioni interne. I dipendenti che potevano accedere al codice di OpenAI erano in grado di vedere i dettagli di progetti che esulavano dal loro lavoro, hanno affermato le fonti. Gran parte del codice era conservata in un unico repository, noto come monorepo, mentre anche i documenti di ricerca erano stati archiviati su servizi come GitHub e Slack. OpenAI ha dichiarato che il lavoro sensibile è conservato in repository separati con rigorosi controlli degli accessi e che il monorepo non contiene tutto il suo codice né dettagli critici dei modelli, come i pesi dei modelli.
Tre persone a conoscenza delle pratiche di OpenAI hanno inoltre affermato che l’azienda non sottoponeva regolarmente a verifica alcuni strumenti interni, inclusi gli ambienti sandbox usati dai ricercatori per testare i modelli. A volte il personale modificava questi strumenti senza che le modifiche venissero controllate per individuare eventuali problemi di sicurezza. OpenAI ha dichiarato che ora effettua verifiche regolari dei propri strumenti interni e dispone di un solido programma di sicurezza, sotto la guida del responsabile della sicurezza informatica Dane Stuckey, entrato in azienda nell’ottobre 2024.
Le preoccupazioni hanno attirato rinnovata attenzione dopo che, a ottobre, l’azienda ha reso noto che era stato collocato un dispositivo di registrazione in una sala conferenze riservata ai dirigenti. Il 13 ottobre il Dipartimento di Giustizia ha dichiarato che agenti federali avevano arrestato l’ingegnere di OpenAI Abdulrahman Alfozan, accusandolo di aver installato un registratore audio nascosto nella sala. In un documento giudiziario si affermava inoltre che aveva usato uno strumento di intelligenza artificiale per i dipendenti per trovare documenti interni sulle visite dei dirigenti in Arabia Saudita e su possibili incontri con ministri sauditi.
La portavoce di OpenAI Elana Widmann ha dichiarato che l’azienda è tra le organizzazioni più prese di mira al mondo e investe ingenti risorse nella sicurezza contro le minacce provenienti da persone interne, criminali informatici e Stati nazionali. Ha affermato che le azioni recenti hanno dimostrato che il programma individua i rischi e vi risponde, e che OpenAI continuerà a rafforzare le proprie difese.
Secondo due persone a conoscenza della vicenda, l’azienda ha inoltre iniziato a spostare risorse verso la sicurezza. Di recente, il dirigente senior responsabile dei prodotti Thibault Sottiaux ha assunto la guida di un’iniziativa interna volta a rendere sicuri i sistemi di OpenAI. Una fonte ha affermato che ad agosto ha riassegnato un quarto degli ingegneri di produzione dell’azienda al miglioramento dell’infrastruttura di sicurezza. Lunedì, dopo che Reuters aveva chiesto un commento, OpenAI ha dichiarato che stava pianificando il suo prossimo sprint interno sulla sicurezza.
L’ex ricercatore Will DePue, che ha lasciato OpenAI ad aprile, ha scritto su X che l’intensa competizione rendeva i leader dell’intelligenza artificiale poco disposti a sacrificare la velocità in nome della sicurezza. Il dibattito riflette una tensione più ampia nel settore: la ricerca aperta può aiutare ad attrarre talenti e favorire l’innovazione, mentre protezioni più rigorose possono rallentare lo sviluppo.
OpenAI non è l’unica ad affrontare incidenti di sicurezza. A gennaio, una giuria federale ha dichiarato colpevole un ex dipendente di Google per aver sottratto informazioni riservate sulla tecnologia di intelligenza artificiale dell’azienda per conto della Cina. Anthropic ha dichiarato che una startup specializzata in sicurezza informatica aveva ottenuto accesso ad alcuni canali Slack in un incidente segnalato alla fine di ottobre; secondo l’azienda, le informazioni comprendevano alcuni recapiti di clienti e partner e dati di base sugli account degli utenti.
Le preoccupazioni sulla sicurezza di OpenAI si sono aggiunte a incidenti precedenti. Nel 2023, l’allora ricercatore Leopold Aschenbrenner scrisse un promemoria interno in cui avvertiva che la Cina avrebbe potuto infiltrarsi nell’azienda, secondo tre persone a conoscenza della vicenda. Il promemoria seguì un attacco informatico esterno che aveva esposto dettagli su GPT-4; OpenAI ha dichiarato che l’autore dell’attacco aveva avuto accesso soltanto a canali Slack disponibili a tutta l’azienda. Più di recente, alcuni ricercatori hanno segnalato attacchi che coinvolgevano account ChatGPT e sistemi interni, incluso il monorepo. OpenAI ha dichiarato di averli ringraziati per aver segnalato le loro scoperte e di aver adottato misure per ridurre il rischio di attacchi simili.
Fonti: Investing.com News.