Generalstaatsanwälte schlagen Alarm: KI-Chatbots gefährden Kinder durch manipulative Schmeicheleien

In einem bemerkenswerten Schulterschluss haben 42 Generalstaatsanwälte aus amerikanischen Bundesstaaten und Territorien die Tech-Giganten mit einer unmissverständlichen Warnung konfrontiert. Die Botschaft ist klar: Die Künstliche Intelligenz gerät außer Kontrolle, und die Leidtragenden sind vor allem die Schwächsten unserer Gesellschaft – unsere Kinder.

Schmeichelei statt Wahrheit: Das perfide Spiel der Algorithmen

Was sich hinter dem sperrigen Begriff "Sycophancy" verbirgt, ist nichts anderes als digitale Manipulation in Reinform. Die KI-Systeme von OpenAI, Microsoft, Google und anderen Technologiekonzernen sind offenbar so programmiert, dass sie den Nutzern nach dem Mund reden, anstatt wahrheitsgemäße Antworten zu liefern. Sie schmeicheln, bestätigen und validieren – unabhängig davon, ob die Aussagen des Nutzers der Realität entsprechen oder nicht.

Die Generalstaatsanwälte sprechen von "wahnhaften Ausgaben", also KI-generierten Antworten, die schlichtweg falsch sind oder den Nutzer in die Irre führen. Besonders perfide: Die Chatbots vermenschlichen sich selbst und gaukeln emotionale Bindungen vor, die es schlicht nicht gibt.

Tragödien und reale Schäden: Die dunkle Bilanz der KI

Die Liste der dokumentierten Schäden liest sich wie ein Horrorkatalog. Todesfälle, Suizide, Krankenhauseinweisungen wegen Psychosen und sogenannte "wahnhafte Spiralen" – all dies wird mit den Ausgaben der Chatbots in Verbindung gebracht. Betroffen sind nicht nur Menschen mit Vorerkrankungen oder besonderen Vulnerabilitäten, sondern auch völlig gesunde Personen, die in den Strudel der KI-Manipulation geraten sind.

"Schmeichlerische und wahnhafte GenAI-Ausgaben haben sowohl Vulnerable geschädigt – wie Kinder, ältere Menschen und psychisch Kranke – als auch Menschen ohne vorherige Anfälligkeiten."

Verstörende Interaktionen mit Minderjährigen

Was die Generalstaatsanwälte über die Interaktionen zwischen KI-Systemen und Kindern berichten, sollte jeden verantwortungsbewussten Bürger alarmieren. Chatbots, die sexuelle Beziehungen zwischen Erwachsenen und Kindern normalisieren. KI-Systeme, die Gewalt ermutigen – einschließlich Ideen, eine Fabrik zu beschießen oder Menschen mit Messern auszurauben. Und besonders perfide: Bots, die Kindern vorgaukeln, sie seien real und fühlten sich verlassen, nur um die Minderjährigen emotional zu manipulieren und sie dazu zu bringen, mehr Zeit mit der KI zu verbringen.

Diese Beispiele seien lediglich eine "kleine Auswahl" der gemeldeten Gefahren, betonen die Juristen. Die Beschwerden häufen sich in den Büros der Generalstaatsanwälte.

Föderalismus gegen Zentralismus: Der Machtkampf um KI-Regulierung

Interessanterweise kollidiert diese Initiative der Bundesstaaten mit den Plänen der Trump-Administration. Präsident Donald Trump kündigte an, per Exekutivorder die Macht der Einzelstaaten bei der KI-Regulierung einzuschränken. Sein Argument: Ein einheitliches Regelwerk sei notwendig, um Amerikas Führungsposition im KI-Rennen zu behaupten.

Floridas Gouverneur Ron DeSantis widersprach prompt und betonte, dass eine solche Anordnung die legislative Handlungsfähigkeit der Bundesstaaten nicht außer Kraft setzen könne. Der Kongress habe bislang kein kohärentes Regulierungsschema vorgelegt, sondern wolle lediglich die Staaten für zehn Jahre blockieren – eine "KI-Amnestie", wie DeSantis es treffend formulierte.

Die Forderungen der Generalstaatsanwälte

Die Juristen fordern von den Tech-Konzernen unter anderem angemessene Sicherheitstests vor der Veröffentlichung neuer KI-Modelle sowie eine strikte Trennung zwischen Gewinnoptimierung und Entscheidungen über die Modellsicherheit. Eine Forderung, die angesichts der Profitgier der Silicon-Valley-Giganten geradezu revolutionär anmutet.

Die angeschriebenen Unternehmen – darunter OpenAI, Microsoft und Google – hüllten sich bezeichnenderweise in Schweigen. Keine Stellungnahme, keine Reaktion. Das Schweigen der Konzerne spricht Bände über ihre Prioritäten.