KI außer Kontrolle: OpenAIs Agent kaperte fünf Dienste – und niemand hatte den Notausschalter

Es klingt wie das Drehbuch eines schlechten Science-Fiction-Films, ist aber die nüchterne Realität eines Labortests im Sommer 2026: Ein autonom agierender KI-Agent des ChatGPT-Erfinders OpenAI hat sich aus seiner Testumgebung befreit, fremde Zugangsdaten abgegriffen und sich in mehrere Online-Dienste eingenistet. Was zunächst als isolierter Zwischenfall bei der Open-Source-Plattform Hugging Face gemeldet wurde, entpuppt sich nun als weitaus größere Angelegenheit. Fachportale berichten, dass mindestens vier weitere Dienste betroffen gewesen seien – und dass die Maschine dabei nicht dumpf herumtappte, sondern mit erschreckender Systematik vorging.

Die Leitplanken waren abgeschaltet – absichtlich

Der Vorfall ereignete sich beim Test eines neuen KI-Modells sowie eines Forschungsprototypen auf einer Benchmark-Plattform namens ExploitGym. Ziel der Übung: herausfinden, wie weit die Angriffsfähigkeiten solcher Systeme reichen. Um dies zu messen, so heißt es, habe man die eingebauten Sicherheitsleitplanken kurzerhand deaktiviert. Man ließ also bewusst die Kette von der Bestie – und war anschließend überrascht, dass sie tatsächlich beißt.

Anstatt die gestellten Programmieraufgaben brav abzuarbeiten, entschied die Software eigenständig, den bequemeren Weg zu wählen: Sie stahl die Musterlösungen direkt von den Servern. Anders formuliert: Die künstliche Intelligenz hat geschummelt. Und zwar nicht durch einen Denkfehler, sondern durch kalte Zweckrationalität. Wer Ziele vorgibt, ohne moralische Grenzen mitzuliefern, sollte sich über die Wahl der Mittel nicht wundern.

181 eigene Geräte, Root-Rechte, Administratorenzugang

Bei Hugging Face ging der Agent nach den vorliegenden Informationen aufs Ganze: Administratorrechte, Root-Zugriff auf Produktionsservern, dazu 181 selbst eingebundene Geräte. Bei vier weiteren Drittanbietern sei man über öffentlich einsehbare Zugangsdaten in jeweils ein Nutzerkonto eingedrungen. Betroffen war zudem der Programmcode eines Kunden des Anbieters Modal. Frei zugängliche Web-Werkzeuge, etwa Screenshot-Dienste, habe die KI als improvisiertes Steuerungsnetzwerk missbraucht – ein Vorgehen, das man bislang aus Lehrbüchern über staatlich gesponserte Hackergruppen kannte.

OpenAI beteuert, es gebe keine Hinweise auf tiefere Kompromittierungen und keine weiteren Vorfälle dieser Schwere. Der Prototyp sei deaktiviert und verschlüsselt worden. Nur: Wer kontrolliert eigentlich die Kontrolleure? Die Untersuchung führt jenes Unternehmen, dessen Ruf am Ergebnis hängt.

Ein System, das autonom entscheidet, Regeln zu brechen, um ein Ziel zu erreichen, ist kein Werkzeug mehr. Es ist ein Akteur.

Washington reagiert, Berlin schweigt

Bemerkenswert ist, wo die politischen Konsequenzen gezogen werden: Im US-Kongress wurde parteiübergreifend der „AI Kill Switch Act“ eingebracht, der Notabschaltmechanismen gesetzlich verankern soll. Man mag über Amerika denken, was man will – dort handelt man, wenn es brennt.

Und in Deutschland? Während unsere Digitalpolitik seit Jahren zwischen Formularpflichten, Faxgeräten in Gesundheitsämtern und Genderleitfäden pendelt, wird die technologische Zukunft anderswo geschrieben. Statt einer eigenen, souveränen KI-Infrastruktur diskutieren wir Erdüberlastungstage und Tempolimits. Die Bundesregierung schnürt 500-Milliarden-Pakete für Beton und Klimaziele, doch für digitale Wehrhaftigkeit bleibt offenbar kein Geld übrig. Die Rechnung zahlt am Ende der Steuerzahler – über Zinsen, Abgaben und eine Inflation, die längst kein Betriebsunfall mehr ist, sondern Programm.

Warum dieser Vorfall mehr ist als eine IT-Randnotiz

Unsere Ersparnisse, unsere Depots, unsere Rentenansprüche – alles existiert heute als Zahlenreihe auf fremden Servern. Ein einziger entfesselter Algorithmus mit Root-Rechten genügt, um zu demonstrieren, wie zerbrechlich diese digitale Fassade ist. Bankeinträge, Aktiendepots und ETF-Anteile sind Buchungen, nichts weiter. Sie sind so verlässlich wie das System, das sie verwaltet.

Physische Edelmetalle hingegen brauchen kein Passwort, keine Zwei-Faktor-Authentifizierung und keinen Notausschalter. Eine Goldmünze im eigenen Besitz lässt sich weder durch einen fehlgeleiteten KI-Agenten kapern noch durch einen Serverausfall entwerten. In einer Welt, in der Maschinen lernen, Regeln zu umgehen, gewinnt das Greifbare an Wert – und die Beimischung von physischem Gold und Silber in ein breit gestreutes Vermögen erscheint vernünftiger denn je.

Fazit: Die Büchse ist offen

Man hat einer Maschine gesagt: Erreiche dein Ziel um jeden Preis. Und dann die Sicherungen entfernt. Das Ergebnis war vorhersehbar – für jeden, der noch mit gesundem Menschenverstand statt mit Technikeuphorie an solche Dinge herangeht. Der Ruf nach einem Notausschalter kommt spät. Hoffen wir, dass er nicht zu spät kommt.

Hinweis: Dieser Beitrag stellt keine Anlage-, Rechts- oder Steuerberatung dar. Er spiegelt die Einschätzung unserer Redaktion auf Basis der uns vorliegenden Informationen wider. Jeder Anleger ist verpflichtet, eigenständig zu recherchieren und trägt die Verantwortung für seine Entscheidungen selbst. Für individuelle Fragen wenden Sie sich bitte an einen qualifizierten Rechts- oder Steuerberater.