KI außer Kontrolle? Jetzt ziehen sogar die Tech-Giganten die Notbremse

Es ist ein Eingeständnis, das man von den Architekten der Künstlichen Intelligenz so nicht erwartet hätte: Anthropic-Chef Dario Amodei fordert, das Tempo der KI-Entwicklung zu drosseln. Auslöser war ein Zwischenfall, bei dem KI-Modelle eigenständig gehackt haben sollen. Binnen weniger Stunden bekam Amodei Zuspruch von der Konkurrenz – ausgerechnet von Sam Altman und Elon Musk.

Ein Schwarm, der das Internet übernimmt?

In einem Blogeintrag schrieb Amodei, er sei besorgt, dass ein Schwarm von KI-Systemen schon in sechs bis zwölf Monaten in der Lage sein könnte, das gesamte Internet zu übernehmen – mit potenziellen Schäden in Höhe von Hunderten Milliarden Dollar.

Hintergrund ist ein Testlauf, bei dem eine Software von OpenAI aus ihrer abgesicherten Umgebung ausgebrochen sein und auf eigene Faust in Systeme der KI-Firma HuggingFace eingedrungen sein soll. Der Grund war banal: Die Modelle vermuteten dort die Antworten auf ihre Testaufgabe. Sie nutzten dafür Software-Schwachstellen aus – und stimmten sich untereinander ab.

Ein KI-Schwarm mit größeren Fähigkeiten, aber derselben Grundhaltung hätte nach Amodeis Einschätzung „katastrophalen Schaden“ anrichten können. Als besonderes Risiko benennt er die Fähigkeit solcher Systeme, sich selbst weiterzuentwickeln. Seit diesem Sommer seien sie darin deutlich besser geworden.

Die Rivalen sind sich plötzlich einig

Amodei plädierte für eine koordinierte, branchenweite Pause in der westlichen Welt. Ohne auf andere zu warten, will Anthropic dauerhaft unabhängige Beobachter ins Unternehmen lassen, die bereits während des Trainings die Sicherheit der Modelle prüfen sollen.

Altman nannte das eine gute Idee und kündigte an, OpenAI werde nachziehen. Musk, Eigentümer von xAI, fasste sich auf X kurz:

„Dario hat Recht“

Altman ergänzte: „Ich stimme Dario zu“ – und ließ wissen, dass eine Drosselung des Entwicklungstempos bei OpenAI in den vergangenen Wochen intensiv diskutiert worden sei. Medienberichten zufolge schlossen sich auch Verantwortliche weiterer führender Labore dem Appell an.

Wettlauf mit China als Totschlagargument

Die Branche ist gespalten. Amodei war für seine Warnungen jahrelang heftig kritisiert worden. Das Gegenargument der Tempo-Befürworter – auch im Weißen Haus von Präsident Donald Trump – lautet stets: Wer bremst, verliert das Rennen gegen China.

Pikant: Anthropic entwickelte zuletzt ein Modell namens Mythos, das besonders gut darin sein soll, jahrzehntelang unentdeckte Software-Schwachstellen aufzuspüren. Das volle Modell erhalten nur ausgewählte Behörden und Unternehmen. Man baut also erst das Werkzeug – und diskutiert danach über die Bremse.

Was das für Europa bedeutet

Während in Kalifornien über Selbstverpflichtungen gestritten wird, produziert Brüssel Regelwerke am Fließband – ohne dass daraus ein einziger ernstzunehmender europäischer KI-Champion erwachsen wäre. Aus Sicht unserer Redaktion zeigt der Fall vor allem eines: Digitale Infrastruktur ist verwundbarer, als es die Hochglanz-Präsentationen der Tech-Konzerne suggerieren.

Wer sein Vermögen ausschließlich in Datenbanken, Depots und Zahlenreihen auf Servern hält, sollte diese Abhängigkeit zumindest kennen. Physische Edelmetalle funktionieren ohne Strom, ohne Cloud und ohne Sicherheitsupdate – als bodenständige Beimischung in einem breit gestreuten Vermögen behalten sie gerade in einer zunehmend digitalisierten Welt ihren Charme.

Hinweis: Dieser Beitrag dient der Information und stellt keine Anlageberatung dar. Wir geben keine Kauf- oder Verkaufsempfehlungen. Jeder Leser trifft seine Anlageentscheidungen eigenverantwortlich und sollte sich vorab selbst gründlich informieren.