Los empleados de OpenAI plantearon inquietudes sobre las prácticas de seguridad internas de la empresa durante años, incluso antes del lanzamiento de ChatGPT a finales de 2022, según cinco personas familiarizadas con el asunto. Algunos empleados compartieron sus advertencias con altos directivos y miembros de la junta, y más adelante tuvieron la impresión de que la dirección estaba dando prioridad a la competencia con Google y Anthropic por encima de la seguridad, dijeron las fuentes a Reuters.
Las inquietudes incluían el amplio acceso a la información interna. Los empleados con acceso al código de OpenAI podían ver detalles de proyectos ajenos a su propio trabajo, dijeron las fuentes. Gran parte del código se guardaba en un único repositorio, conocido como monorepo, mientras que también se habían almacenado documentos de investigación en servicios como GitHub y Slack. OpenAI dijo que el trabajo sensible se guarda en repositorios separados con controles de acceso estrictos, y que el monorepo no contiene todo su código ni detalles fundamentales de los modelos, como sus pesos.
Tres personas familiarizadas con las prácticas de OpenAI también dijeron que la empresa no había revisado periódicamente algunas herramientas internas, incluidos los entornos aislados que los investigadores utilizan para probar modelos. En ocasiones, el personal modificaba estas herramientas sin que se comprobaran los cambios para detectar problemas de seguridad. OpenAI dijo que ahora lleva a cabo revisiones periódicas de sus herramientas internas y cuenta con un sólido programa de seguridad a cargo del director de seguridad de la información, Dane Stuckey, quien se incorporó en octubre de 2024.
Las inquietudes han vuelto a captar la atención después de que la empresa revelara en octubre que se había instalado un dispositivo de grabación en una sala de reuniones para directivos. El Departamento de Justicia dijo el 13 de octubre que agentes federales arrestaron al ingeniero de OpenAI Abdulrahman Alfozan y lo acusaron de instalar allí una grabadora de audio oculta. Un documento judicial también señaló que utilizó una herramienta de IA para empleados con el fin de encontrar documentos internos sobre las visitas de directivos a Arabia Saudita y posibles reuniones con ministros saudíes.
La portavoz de OpenAI, Elana Widmann, dijo que la empresa es una de las organizaciones más atacadas del mundo e invierte mucho en protegerse de amenazas internas, ciberdelincuentes y Estados nación. Afirmó que las medidas recientes demostraron que el programa detecta riesgos y responde a ellos, y que OpenAI seguiría reforzando sus defensas.
La empresa también ha empezado a destinar más recursos a la seguridad, según dos personas familiarizadas con el asunto. Thibault Sottiaux, un alto ejecutivo de producto, se hizo cargo recientemente de una iniciativa interna para proteger los sistemas de OpenAI. Una fuente dijo que en agosto reasignó a una cuarta parte de los ingenieros de producción de la empresa para mejorar la infraestructura de seguridad. OpenAI dijo el lunes, después de que Reuters solicitara comentarios, que estaba planificando su próxima iniciativa interna intensiva de seguridad.
El exinvestigador Will DePue, que dejó OpenAI en abril, escribió en X que la intensa competencia hacía que los líderes de la IA no estuvieran dispuestos a sacrificar velocidad en favor de la seguridad. El debate refleja una tensión más amplia en el sector: la investigación abierta puede ayudar a atraer talento y fomentar la innovación, mientras que unas protecciones más estrictas pueden ralentizar el desarrollo.
OpenAI no es la única empresa que afronta incidentes de seguridad. En enero, un jurado federal condenó a un ex empleado de Google por robar información confidencial sobre la tecnología de IA de la empresa para China. Anthropic dijo que una empresa emergente de ciberseguridad obtuvo acceso a algunos canales de Slack en un incidente del que informó a finales de octubre; la empresa señaló que la información incluía algunos datos de contacto de clientes y socios, así como registros básicos de cuentas de usuario.
Las inquietudes sobre la seguridad de OpenAI también se remontan a incidentes anteriores. En 2023, el entonces investigador Leopold Aschenbrenner escribió un memorando interno en el que advertía que China podría infiltrarse en la empresa, según tres personas familiarizadas con el asunto. El memorando se redactó después de que un ataque externo expusiera detalles sobre GPT-4; OpenAI dijo que el atacante solo accedió a canales de Slack disponibles para toda la empresa. Más recientemente, investigadores informaron de ataques relacionados con cuentas de ChatGPT y sistemas internos, incluido el monorepo. OpenAI dijo que les agradeció haber comunicado sus hallazgos y que tomó medidas para reducir el riesgo de ataques similares.
Fuentes: Investing.com News.