Funcionários da OpenAI expressaram preocupações sobre as práticas internas de segurança da empresa durante anos, inclusive antes do lançamento do ChatGPT, no fim de 2022, segundo cinco pessoas familiarizadas com o assunto. Alguns funcionários compartilharam alertas com líderes seniores e integrantes do conselho e, mais tarde, sentiram que a administração estava priorizando a competição com Google e Anthropic em detrimento da segurança, disseram as fontes à Reuters.
As preocupações incluíam o amplo acesso a informações internas. Funcionários com acesso ao código da OpenAI podiam ver detalhes de projetos que iam além do próprio trabalho, disseram as fontes. Grande parte do código era mantida em um único repositório, conhecido como monorepo, enquanto documentos de pesquisa também haviam sido armazenados em serviços como GitHub e Slack. A OpenAI afirmou que trabalhos sensíveis são mantidos em repositórios separados, com controles de acesso rigorosos, e que o monorepo não contém todo o seu código nem detalhes críticos dos modelos, como os pesos dos modelos.
Três pessoas familiarizadas com as práticas da OpenAI também disseram que a empresa não revisava regularmente algumas ferramentas internas, incluindo ambientes isolados usados por pesquisadores para testar modelos. Às vezes, funcionários alteravam essas ferramentas sem que as modificações fossem verificadas quanto a problemas de segurança. A OpenAI afirmou que agora realiza revisões regulares de suas ferramentas internas e mantém um programa de segurança robusto sob a liderança do diretor de segurança da informação, Dane Stuckey, que ingressou na empresa em outubro de 2024.
As preocupações voltaram a receber atenção depois que a empresa revelou, em outubro, que um dispositivo de gravação havia sido instalado em uma sala de conferências executiva. O Departamento de Justiça informou, em 13 de outubro, que agentes federais prenderam o engenheiro da OpenAI Abdulrahman Alfozan e o acusaram de instalar ali um gravador de áudio oculto. Uma petição judicial também afirmou que ele usou uma ferramenta de IA para funcionários para encontrar documentos internos sobre visitas de executivos à Arábia Saudita e possíveis reuniões com ministros sauditas.
A porta-voz da OpenAI, Elana Widmann, disse que a empresa está entre as organizações mais visadas do mundo e investe fortemente em segurança contra ameaças internas, cibercriminosos e Estados-nação. Ela afirmou que ações recentes demonstraram que o programa identificou riscos e reagiu a eles, e que a OpenAI continuaria reforçando suas defesas.
A empresa também começou a direcionar recursos para a segurança, segundo duas pessoas familiarizadas com o assunto. O executivo sênior de produtos Thibault Sottiaux assumiu recentemente a liderança de um esforço interno para proteger os sistemas da OpenAI. Uma fonte disse que, em agosto, ele realocou um quarto dos engenheiros de produção da empresa para aprimorar a infraestrutura de segurança. Na segunda-feira, depois que a Reuters pediu comentários, a OpenAI afirmou que estava planejando sua próxima iniciativa interna intensiva de segurança.
O ex-pesquisador Will DePue, que deixou a OpenAI em abril, escreveu no X que a competição intensa fazia com que líderes de IA não estivessem dispostos a sacrificar velocidade em favor da segurança. O debate reflete uma tensão mais ampla no setor: a pesquisa aberta pode ajudar a atrair talentos e promover a inovação, enquanto proteções mais rigorosas podem desacelerar o desenvolvimento.
A OpenAI não é a única a enfrentar incidentes de segurança. Em janeiro, um júri federal condenou um ex-funcionário do Google por roubar informações confidenciais sobre a tecnologia de IA da empresa para a China. A Anthropic disse que uma startup de cibersegurança teve acesso a alguns canais do Slack em um incidente divulgado no fim de outubro; a empresa afirmou que as informações incluíam alguns dados de contato de clientes e parceiros, além de registros básicos de contas de usuários.
As preocupações com a segurança da OpenAI também vêm na esteira de incidentes anteriores. Em 2023, o então pesquisador Leopold Aschenbrenner escreveu um memorando interno alertando que a China poderia se infiltrar na empresa, segundo três pessoas familiarizadas com o assunto. O memorando foi escrito após um ataque externo que expôs detalhes sobre o GPT-4; a OpenAI afirmou que o invasor acessou apenas canais do Slack disponíveis a toda a empresa. Mais recentemente, pesquisadores relataram ataques envolvendo contas do ChatGPT e sistemas internos, incluindo o monorepo. A OpenAI afirmou que agradeceu a eles por relatarem suas descobertas e tomou medidas para reduzir o risco de ataques semelhantes.
Fontes: Investing.com News.