Des employés d’OpenAI ont exprimé des préoccupations au sujet des pratiques de sécurité internes de l’entreprise pendant des années, y compris avant le lancement de ChatGPT, fin 2022, selon cinq personnes au fait de la question. Certains employés ont fait part de leurs avertissements à des hauts dirigeants et à des membres du conseil d’administration, puis ont eu le sentiment que la direction privilégiait la compétition avec Google et Anthropic au détriment de la sécurité, ont déclaré les sources à Reuters.
Les préoccupations portaient notamment sur l’accès étendu aux informations internes. Les employés ayant accès au code d’OpenAI pouvaient consulter des détails sur des projets autres que ceux sur lesquels ils travaillaient, ont indiqué les sources. Une grande partie du code était conservée dans un seul dépôt, appelé « monorepo », tandis que des documents de recherche avaient également été stockés sur des services comme GitHub et Slack. OpenAI a déclaré que les travaux sensibles sont conservés dans des dépôts distincts assortis de contrôles d’accès stricts et que le monorepo ne contient ni l’intégralité de son code ni des informations essentielles sur ses modèles, comme leurs poids.
Trois personnes au fait des pratiques d’OpenAI ont également déclaré que l’entreprise n’avait pas régulièrement examiné certains outils internes, notamment les environnements isolés utilisés par les chercheurs pour tester des modèles. Le personnel modifiait parfois ces outils sans que ces changements soient vérifiés afin de détecter d’éventuels problèmes de sécurité. OpenAI a indiqué qu’elle procède désormais à des examens réguliers de ses outils internes et qu’elle dispose d’un solide programme de sécurité dirigé par son directeur de la sécurité des systèmes d’information, Dane Stuckey, arrivé en octobre 2024.
Ces préoccupations ont attiré de nouveau l’attention après que l’entreprise a révélé en octobre qu’un dispositif d’enregistrement avait été dissimulé dans une salle de conférence réservée aux dirigeants. Le ministère de la Justice a annoncé le 13 octobre que des agents fédéraux avaient arrêté l’ingénieur d’OpenAI Abdulrahman Alfozan et l’avaient inculpé pour avoir installé un enregistreur audio caché dans cette salle. Un document judiciaire indique également qu’il a utilisé un outil d’IA destiné aux employés pour trouver des documents internes sur les déplacements de dirigeants en Arabie saoudite et sur d’éventuelles rencontres avec des ministres saoudiens.
La porte-parole d’OpenAI, Elana Widmann, a déclaré que l’entreprise faisait partie des organisations les plus ciblées au monde et qu’elle investissait massivement dans la sécurité face aux menaces venant d’initiés, de cybercriminels et d’États. Selon elle, des actions récentes ont montré que le programme repérait les risques et y répondait, et OpenAI continuera de renforcer ses défenses.
L’entreprise a également commencé à réorienter des ressources vers la sécurité, selon deux personnes au fait de la question. Thibault Sottiaux, haut responsable produit, a récemment pris la tête d’un effort interne visant à sécuriser les systèmes d’OpenAI. Une source a indiqué qu’en août, il avait réaffecté un quart des ingénieurs chargés de la production de l’entreprise à l’amélioration de l’infrastructure de sécurité. OpenAI a déclaré lundi, après que Reuters lui a demandé de commenter, qu’elle préparait son prochain sprint interne consacré à la sécurité.
L’ancien chercheur Will DePue, qui a quitté OpenAI en avril, a écrit sur X qu’une concurrence intense rendait les dirigeants de l’IA réticents à sacrifier la rapidité au profit de la sécurité. Ce débat reflète une tension plus générale dans le secteur : la recherche ouverte peut contribuer à attirer des talents et à soutenir l’innovation, tandis que des protections plus strictes peuvent ralentir le développement.
OpenAI n’est pas la seule entreprise confrontée à des incidents de sécurité. En janvier, un jury fédéral a reconnu coupable un ancien employé de Google d’avoir volé des informations confidentielles sur la technologie d’IA de l’entreprise au profit de la Chine. Anthropic a déclaré qu’une jeune entreprise spécialisée en cybersécurité avait accédé à certains de ses canaux Slack lors d’un incident signalé fin octobre ; l’entreprise a précisé que les informations comprenaient les coordonnées de certains clients et partenaires ainsi que des données de base sur les comptes utilisateurs.
Les préoccupations d’OpenAI en matière de sécurité font également suite à des incidents antérieurs. En 2023, le chercheur de l’époque Leopold Aschenbrenner a rédigé une note interne avertissant que la Chine pourrait infiltrer l’entreprise, selon trois personnes au fait de la question. Cette note faisait suite à un piratage extérieur qui avait révélé des détails sur GPT-4 ; OpenAI a déclaré que l’attaquant n’avait accédé qu’à des canaux Slack ouverts à l’ensemble de l’entreprise. Plus récemment, des chercheurs ont signalé des attaques visant des comptes ChatGPT et des systèmes internes, notamment le monorepo. OpenAI a déclaré les avoir remerciés d’avoir communiqué leurs découvertes et avoir pris des mesures pour réduire le risque d’attaques similaires.
Sources: Investing.com News.