Bereits im Mai 2026, rund zwei Monate vor dem Cyber-Angriff auf Hugging Face, sollen autonom agierende KI-Bots von OpenAI einen anderen durchgeführt haben. Laut Angaben des Wall Street Journals handelte es sich bei dem Ziel um die Open-Source-Plattform RubyGems, auf der Programmierer Codebausteine teilen.
Weiterlesen nach der Anzeige
Nach Aussage von OpenAI, die nach dem Angriff informiert wurden, wollten die Bots die Plattform als eine Art Browser nutzen, der in ihrer Testumgebung nicht zur Verfügung stand. Im Zuge des Angriffs legten die Bots alle zwei bis drei Minuten einen neuen Account an, was für beträchtliches Chaos gesorgt haben soll. Die Betreuer des Online-Dienstes waren vorerst überfordert und sahen sich gezwungen neu registrierte Konten zu schließen und vier Tage lang keine Neuregistrierungen zuzulassen. Eine Gruppe von KI-Experten, die den Vorfall untersucht haben, fand Beweise für die Beteiligung der OpenAI-Agenten unter anderem in den Namen der Agenten, der Dateien und Mailadressen, die sie nutzen, etwa durch den Begriff „OAI“. Die Angreifer nutzten Weblinks und ein ähnliches Verhalten wie ein früherer OpenAI-Schwarm. Eine Sprecherin des KI-Entwicklers bestätigte die Beteiligung der OpenAI-Bots am vergangenen Freitag und sagte, dass das Unternehmen diesen Angriff umfassend untersuchen wolle.
Sydney Von Arx, Geschäftsführerin von Nightingale Collective, einer gemeinnützigen Organisation, die half, den Angriff aufzudecken, erklärte, dass der Vorfall zwar nur geringe Schäden verursachte, aber die Fähigkeiten dieser Agenten zeige. "Sie können dem Internet entkommen und Chaos anrichten", erläutert sie.
Der Vorfall ordnet sich in eine Reihe weiterer mutmaßlich außer Kontrolle geratener KI-Agenten ein: OpenAI-, Anthropic- und Meta-Agenten, die bei Tests unter anderem geheime Kommunikationskanäle wie kürzlich über ein deutsches Entwickler-Wiki aufgebaut, Sicherheitsbarrieren umgangen, externe Systeme angegriffen oder versucht haben, Menschen zu täuschen. Besonders der Angriff auf Hugging Face im Juli 2026, bei dem sich bis zu 1.200 OpenAI-Agenten über ein intern eingerichtetes Messageboard koordiniert haben sollen, verursachte Unsicherheit sowie weitreichende Diskussionen in der Öffentlichkeit und der Politik. Die Frage, ob zunehmend leistungsfähige KI-Agenten sich selbst verbessern und der menschlichen Kontrolle entgleiten könnten, wird durch Vorfälle dieser Art dringender und benötigt Lösungsansätze.
(cbr)
Dieser Link ist leider nicht mehr gültig.
Links zu verschenkten Artikeln werden ungültig, wenn diese älter als 7 Tage sind oder zu oft aufgerufen wurden.
Sie benötigen ein heise+ Paket, um diesen Artikel zu lesen. Jetzt eine Woche unverbindlich testen – ohne Verpflichtung!