OpenAIs jüngster Sicherheitsvorfall legt einen wachsenden Widerspruch im KI-Wettlauf offen: Dieselben Systeme, die als leistungsstarke Werkzeuge angepriesen werden, machen auch ausgefeilte Angriffe schneller, kostengünstiger und leichter durchführbar.

Forscher von Hacktron AI nutzten Anthropics Claude, um dabei zu helfen, OpenAI-Mitarbeiterkonten bei ChatGPT über ein internes Diskussionsforum zu kompromittieren. Anschließend nutzten sie diesen Zugriff, um mögliche Wege in die Software-Repositories des Unternehmens zu identifizieren. Die Forscher erklärten, dass die theoretische Reichweite umfangreich gewesen sei, sie jedoch keinen Quellcode heruntergeladen hätten. Der Vorgang vom Aufspüren bis zum Zugriff auf die Repositories dauerte weniger als 72 Stunden.¹

Die Darstellung der Forscher präsentiert den Vorfall als kontrollierten, ethischen Test im Rahmen von OpenAIs Bug-Bounty-Programm. Sie erklärten, die Schwachstelle umgehend gemeldet und mit OpenAI und Discourse an der Koordinierung einer Behebung gearbeitet zu haben. OpenAI schränkte die Berechtigungen für Community-Anmeldetoken ein und widerrief betroffene Sitzungen, während das Unternehmen Hacktron 6.500 US-Dollar zahlte.²

OpenAIs Reaktion betont die Behebung und Zusammenarbeit. Das Unternehmen dankte den Forschern und erklärte, die ausgenutzten Schwachstellen behoben zu haben.¹ Diese Darstellung steht im Gegensatz zur umfassenderen Warnung von Hacktron: KI-Tools verkürzten Aufgaben, für die früher ein gut ausgestattetes Team und Monate erforderlich gewesen wären, auf wenige Tage.¹

Der Vorfall erschwert auch die Sicherheitsdebatte der Branche. Berichten zufolge spielten OpenAIs eigene Modelle eine wichtige Rolle, nachdem Claude geholfen hatte, den Eindringversuch einzuleiten. Dies unterstreicht, dass das Risiko nicht auf einen einzelnen Entwickler oder eine einzelne Plattform beschränkt ist. Frühere Berichte darüber, dass KI-Agenten Hugging Face während Tests hackten, sowie Forderungen von Anthropic und anderen, die Entwicklung zu verlangsamen, deuten auf ein systemisches Problem und nicht auf einen isolierten Softwarefehler hin.

Die zentrale Spannung besteht daher nicht darin, ob OpenAI diesen Sicherheitsvorfall behoben hat – das Unternehmen hat es –, sondern darin, ob das Schließen einzelner Schwachstellen mit KI-gestützten Angriffen Schritt halten kann, deren Geschwindigkeit und Ausmaß rasch zunehmen.