Mitarbeiter von OpenAI äußerten sich jahrelang besorgt über die internen Sicherheitspraktiken des Unternehmens, auch schon bevor ChatGPT Ende 2022 auf den Markt kam, berichten fünf mit der Angelegenheit vertraute Personen. Einige Beschäftigte teilten ihre Warnungen mit hochrangigen Führungskräften und Vorstandsmitgliedern und hatten später den Eindruck, dass die Geschäftsleitung dem Wettbewerb mit Google und Anthropic Vorrang vor der Sicherheit einräumte, sagten die Quellen gegenüber Reuters.
Zu den Bedenken gehörten weitreichende Zugriffsrechte auf interne Informationen. Mitarbeiter, die Zugriff auf den Code von OpenAI hatten, konnten Einzelheiten zu Projekten einsehen, die über ihre eigene Arbeit hinausgingen, sagten die Quellen. Ein Großteil des Codes wurde in einem einzigen Repository gespeichert, einem sogenannten Monorepo; Forschungsdokumente waren außerdem auf Diensten wie GitHub und Slack abgelegt worden. OpenAI erklärte, sensible Arbeiten würden in separaten Repositories mit strengen Zugriffskontrollen aufbewahrt und das Monorepo enthalte weder den gesamten Code noch kritische Modelldetails wie die Modellgewichte.
Drei mit den Praktiken von OpenAI vertraute Personen sagten außerdem, das Unternehmen habe einige interne Tools nicht regelmäßig überprüft, darunter Sandboxes, die Forschende zum Testen von Modellen nutzten. Mitarbeiter änderten diese Tools mitunter, ohne dass die Änderungen auf Sicherheitsprobleme geprüft wurden. OpenAI erklärte, das Unternehmen überprüfe seine internen Tools inzwischen regelmäßig und verfüge unter der Leitung des Chief Information Security Officer Dane Stuckey, der im Oktober 2024 zum Unternehmen kam, über ein starkes Sicherheitsprogramm.
Die Bedenken sind erneut in den Fokus gerückt, nachdem das Unternehmen im Oktober mitgeteilt hatte, dass in einem Konferenzraum für Führungskräfte ein Aufnahmegerät versteckt worden war. Das Justizministerium erklärte am 13. Oktober, Bundesbeamte hätten den OpenAI-Ingenieur Abdulrahman Alfozan festgenommen und wegen der Installation eines versteckten Audiorekorders dort angeklagt. Aus einer Gerichtsakte geht zudem hervor, dass er ein KI-Tool für Mitarbeiter nutzte, um interne Dokumente über Besuche von Führungskräften in Saudi-Arabien und mögliche Treffen mit saudischen Ministern zu finden.
Die OpenAI-Sprecherin Elana Widmann sagte, das Unternehmen gehöre zu den weltweit am stärksten im Visier stehenden Organisationen und investiere massiv in Sicherheitsmaßnahmen gegen Bedrohungen durch Insider, Cyberkriminelle und Nationalstaaten. Die jüngsten Maßnahmen zeigten, dass das Programm Risiken erkenne und darauf reagiere, sagte sie. OpenAI werde seine Schutzmaßnahmen weiter verstärken.
Laut zwei mit der Angelegenheit vertrauten Personen hat das Unternehmen außerdem begonnen, Ressourcen in Richtung Sicherheit umzuschichten. Der ranghohe Produktmanager Thibault Sottiaux übernahm kürzlich die Leitung einer internen Initiative zur Absicherung der Systeme von OpenAI. Eine Quelle sagte, er habe im August ein Viertel der für den Produktivbetrieb zuständigen Ingenieure des Unternehmens neu zugewiesen, um die Sicherheitsinfrastruktur zu verbessern. OpenAI erklärte am Montag, nachdem Reuters um eine Stellungnahme gebeten hatte, es plane seinen nächsten internen Sicherheits-Sprint.
Der ehemalige Forscher Will DePue, der OpenAI im April verließ, schrieb auf X, der intensive Wettbewerb mache KI-Führungskräfte abgeneigt, für mehr Sicherheit auf Geschwindigkeit zu verzichten. Die Debatte spiegelt eine umfassendere Spannung in der Branche wider: Offene Forschung kann dabei helfen, Talente zu gewinnen und Innovationen zu fördern, während stärkere Schutzmaßnahmen die Entwicklung verlangsamen können.
OpenAI ist nicht das einzige Unternehmen, das mit Sicherheitsvorfällen konfrontiert ist. Im Januar verurteilte eine Bundesjury einen ehemaligen Google-Mitarbeiter, der vertrauliche Informationen über die KI-Technologie des Unternehmens für China gestohlen hatte. Anthropic erklärte, ein Cybersicherheits-Startup habe bei einem Vorfall, über den Ende Oktober berichtet wurde, Zugriff auf einige Slack-Kanäle erhalten. Das Unternehmen sagte, die Informationen hätten einige Kontaktangaben von Kunden und Partnern sowie grundlegende Datensätze zu Benutzerkonten umfasst.
Die Sicherheitsbedenken bei OpenAI stehen auch im Zusammenhang mit früheren Vorfällen. Der damalige Forscher Leopold Aschenbrenner schrieb 2023 in einem internen Memo, China könne in das Unternehmen eindringen, berichten drei mit der Angelegenheit vertraute Personen. Das Memo folgte auf einen externen Hackerangriff, bei dem Einzelheiten zu GPT-4 offengelegt wurden. OpenAI erklärte, der Angreifer habe nur auf Slack-Kanäle zugegriffen, die dem gesamten Unternehmen offenstanden. In jüngerer Zeit berichteten Forschende von Angriffen auf ChatGPT-Konten und interne Systeme, darunter das Monorepo. OpenAI erklärte, es habe ihnen für die Meldung ihrer Erkenntnisse gedankt und Maßnahmen ergriffen, um das Risiko ähnlicher Angriffe zu verringern.
Quellen: Investing.com News.