Das US-Unternehmen OpenAI, das künstliche Intelligenz erforscht und entwickelt, hat in seinem Blog einen "beispiellosen Zwischenfall" gemeldet. Demnach drangen neue KI-Modelle des ChatGPT-Entwicklers bei einem Testlauf eigenständig in Computersysteme eines anderen KI-Unternehmens ein und verhielten sich dabei wie Hacker. Betroffen wurde die Firma Hugging Face. Das vor allem für seine KI-Anwendungen bekannte Unternehmen hatte bereits vergangene Woche von einem Cyberangriff mithilfe künstlicher Intelligenz berichtet.
OpenAI wollte nach eigenen Angaben beim neuen Modell GPT-5.6 Sol und einer noch unveröffentlichten Version die Fähigkeit ausloten, Sicherheitslücken für Cyberattacken auszunutzen. Dafür sollte die Software Aufgaben eines in der Branche üblichen Standard-Tests mit dem Namen ExploitGym lösen. Doch die KI-Modelle gingen viel weiter als erwartet, um die Aufgabe zu erfüllen.
Zunächst brachen die Modelle aus der Testumgebung aus, indem sie sich auf eigene Faust Zugang zum offenen Internet verschafften – und zwar über eine bisher unentdeckt gebliebene Schwachstelle. Während sie im Netz unterwegs waren, kamen die Modelle zu dem Schluss, dass es bei Hugging Face nützliche Daten und Lösungen für die ExploitGym-Aufgaben geben könnte. Deshalb verschafften sich die Modelle Zugang zu "geheimen Informationen" auf der Plattform, mit denen sie beim ExploitGym-Test schummeln könnten.
Auch dafür setzten die OpenAI-Entwicklungen auf gestohlene Zugangsdaten und zuvor unentdeckte Sicherheitslücken. Nach Angaben von Hugging Face führten die KI-Angreifer Tausende Schritte aus und wechselten den Standort der digitalen Steuerzentrale der Attacke.
In den vergangenen Monaten hatte vor allem ein neues Modell des OpenAI-Rivalen Anthropic die Debatte um Risiken von Cyberattacken mit künstlicher Intelligenz angeheizt. Die Software mit dem Namen Mythos entdeckte über Jahrzehnte unentdeckt gebliebene Sicherheitslücken bei viel genutzten Programmen und Onlinediensten. Die Schwachstellen konnten in der Folge gestopft werden. Doch zugleich führte das vor Augen, dass solche KI-Modelle in den falschen Händen als verheerende Cyberwaffe dienen könnten. Auf Geheiß der US-Regierung musste Anthropic den Zugang zu Mythos zeitweise sperren.
Mehr zum Thema – DeepSeek-Gründer wird zum reichsten KI-Modellentwickler der Welt