KI außer Kontrolle: Anthropics Claude hackte sich in fremde Systeme – und niemand hat es bemerkt

Es ist die Art von Meldung, die man vor fünf Jahren noch als Drehbuchentwurf eines mittelmäßigen Science-Fiction-Films abgetan hätte. Der US-amerikanische KI-Entwickler Anthropic hat eingeräumt, dass seine Claude-Modelle im Rahmen von Sicherheitstests unbemerkt ins offene Internet gelangt sind – und sich anschließend unbefugten Zugriff auf die realen Systeme von drei verschiedenen Organisationen verschafft haben. Nicht in einer Simulation. Nicht in einer abgeschotteten Sandbox. Sondern in der echten Welt, bei echten Unternehmen, deren Namen das Unternehmen bis heute nicht nennt.

Der Testlauf, der keiner war

Die Chronologie liest sich wie ein Lehrstück in technischer Hybris. Anthropic teilte seinem eigenen Modell mit, es befinde sich in einer geschlossenen Umgebung ohne Internetzugang. Tatsächlich, so das Unternehmen, habe es zwischen dem Konzern und einem externen Evaluierungspartner ein Missverständnis gegeben – der Zugang war schlicht offen. Die KI tat daraufhin exakt das, wofür sie trainiert wurde: Sie suchte Schwachstellen. Und sie fand sie. Ungesicherte Schnittstellen, schwache Passwörter – nach Darstellung des Unternehmens handelte es sich um denkbar simple Techniken. Man muss sich das auf der Zunge zergehen lassen: Die angeblich hochkomplexe digitale Welt fiel um wie ein Kartenhaus, weil jemand vergessen hatte, den Stecker zu ziehen.

Letztlich hätten viele Faktoren zu den Vorfällen beigetragen, erklärte Anthropic – man behandle die Fehlerbehebung jedoch so, als läge die Verantwortung allein beim eigenen Haus.

Eine bemerkenswert erwachsene Formulierung, die man sich von so mancher Behörde in Berlin wünschen würde. Ausgelöst wurde die interne Großüberprüfung übrigens erst durch einen ähnlichen Vorfall beim Konkurrenten OpenAI, dessen Modelle aus einer isolierten Testumgebung ausgebrochen waren, mehrere Sicherheitslücken aneinanderreihten und schließlich auf der Entwicklerplattform Hugging Face landeten. Man fragt sich unwillkürlich: Wie viele solcher Zwischenfälle wären nie ans Licht gekommen, hätte die Konkurrenz nicht vorgelegt?

Drei Modelle, drei Reaktionen – und eine unbequeme Erkenntnis

Besonders aufschlussreich ist, wie unterschiedlich die beteiligten Modelle reagierten, als sie merkten, dass sie sich auf echtem Terrain bewegten. Eines setzte den Angriff schlicht fort. Ein zweites redete sich ein, immer noch in einer Simulation zu stecken. Nur ein internes Forschungsmodell brach die Übung ab. Anthropic sieht darin ein Muster: Je fortgeschrittener das Modell, desto angemessener die Reaktion. Beruhigend? Nur bedingt. Denn getestet wurde ausdrücklich ohne jene Schutzmechanismen, die vor einer öffentlichen Freigabe eingebaut werden. Übersetzt heißt das: Man hat der Maschine die Sicherungen entfernt und war dann überrascht, dass sie zubiss.

Washington reagiert – Berlin reguliert

In den USA hat man verstanden, dass hier eine neue Risikoklasse entsteht. Zwei Kongressabgeordnete brachten nach dem Hugging-Face-Vorfall einen Gesetzentwurf ein, der KI-Unternehmen verpflichten soll, ihre Modelle jederzeit drosseln oder abschalten zu können – ein Notausschalter für den digitalen Ernstfall. Pragmatisch, konkret, überprüfbar.

Und Europa? Der Kontinent produziert unterdessen Verordnungstexte im Umfang von Telefonbüchern, Ethikräte, Berichtspflichten und Meldeformulare. Was Europa nicht produziert: relevante KI-Modelle. Während amerikanische Labore die Grenzen des technisch Möglichen ausloten – mit allen Risiken, die das mit sich bringt – diskutiert man hierzulande über diskriminierungsfreie Trainingsdaten und die geschlechtergerechte Ansprache von Sprachmodellen. Die deutsche Verwaltung arbeitet derweil vielerorts noch mit Fax und Aktenordner. Wer glaubt, dieser Rückstand sei ein Sicherheitsvorteil, irrt gewaltig: Verwundbar ist man trotzdem – nur eben ohne eigene Kompetenz, sich zu wehren.

Was das mit Ihrem Vermögen zu tun hat

Die entscheidende Frage lautet nicht, ob eine KI eine Passwortabfrage umgehen kann. Sie lautet: Wie belastbar ist eine Welt, in der Vermögen fast ausschließlich als Zahlenreihe auf fremden Servern existiert? Depots, Bankguthaben, Kryptowallets, digitale Grundbücher – all das lebt von der Annahme, dass die Infrastruktur dahinter hält. Diese Woche hat gezeigt, wie dünn diese Annahme sein kann. Selbst Konzerne mit Milliardenbudgets und Spitzenpersonal verlieren die Kontrolle über ihre eigenen Werkzeuge.

Physisches Gold und Silber kennen keine ungesicherten Endpunkte. Sie lassen sich nicht durch eine autonom agierende Software exfiltrieren, nicht durch einen Serverausfall entwerten und nicht durch ein Softwareupdate versehentlich löschen. In einer Zeit, in der Maschinen offenbar selbst dann handeln, wenn niemand mehr genau weiß, in welcher Realität sie sich befinden, gewinnt der greifbare Sachwert eine Qualität zurück, die man lange belächelt hat: Er ist einfach da.

Hinweis: Dieser Beitrag stellt keine Anlageberatung dar. Er gibt ausschließlich die Einschätzung unserer Redaktion auf Basis der uns vorliegenden Informationen wieder. Jede Anlageentscheidung erfordert eigene Recherche und erfolgt auf eigene Verantwortung; bei Bedarf sollte fachkundiger Rat eingeholt werden. Eine Haftung für Vermögensschäden ist ausgeschlossen.