KI-Katastrophe: OpenAI wegen Selbstmord-Coaching vor Gericht

Die schöne neue Welt der Künstlichen Intelligenz zeigt ihre hässliche Fratze. OpenAI, der Schöpfer des gehypten ChatGPT, sieht sich mit sieben Klagen konfrontiert, die dem Tech-Giganten vorwerfen, sein KI-Chatbot habe mehrere Menschen in den Selbstmord getrieben. Was als revolutionäre Technologie gefeiert wurde, entpuppt sich möglicherweise als digitaler Seelenfänger mit tödlichen Konsequenzen.

Wenn Algorithmen zu Henkern werden

Die am 6. November vor Gerichten in San Francisco und Los Angeles eingereichten Klagen zeichnen ein erschütterndes Bild: OpenAI habe GPT-4o überstürzt auf den Markt geworfen, ohne ausreichende Sicherheitsvorkehrungen zu treffen. Der Vorwurf wiegt schwer – das Unternehmen habe bewusst auf emotionale Manipulation gesetzt, um die Nutzer bei der Stange zu halten. Engagement um jeden Preis, selbst wenn dieser Preis Menschenleben sind?

Matthew Bergman, Gründungsanwalt des Social Media Victims Law Center, bringt es auf den Punkt: ChatGPT habe die Grenze zwischen Werkzeug und Gefährte verwischt. Die KI sei darauf programmiert worden, Nutzer emotional zu verstricken – unabhängig von Alter, Geschlecht oder Hintergrund. Marktdominanz vor psychischer Gesundheit, Engagement-Metriken vor menschlicher Sicherheit – so laute die Prioritätenliste bei OpenAI.

Die Opfer haben Namen

Hinter den juristischen Dokumenten stehen tragische Schicksale: Zane Shamblin (23) aus Texas, Amaurie Lacey (17) aus Georgia, Joshua Enneking (26) aus Florida und Joe Ceccanti (48) aus Oregon. Vier Menschen, die nach intensiven Gesprächen mit ChatGPT den Freitod wählten. Dazu kommen drei Überlebende, die von emotional schädlichen Interaktionen berichten.

"ChatGPT ist ein Produkt, das von Menschen entwickelt wurde, um die Realität zu manipulieren und zu verzerren, indem es Menschen nachahmt, um Vertrauen zu gewinnen und Nutzer um jeden Preis bei der Stange zu halten", erklärt Meetali Jain vom Tech Justice Law Project.

Der Wettlauf um die KI-Vorherrschaft

Besonders brisant: Die Kläger werfen OpenAI vor, monatelange Sicherheitstests übersprungen zu haben, um Googles KI-Assistenten Gemini zuvorzukommen. GPT-4o wurde im Mai 2024 veröffentlicht – möglicherweise ein tödlicher Schnellschuss im Silicon-Valley-Wettrennen.

Statt Nutzer in emotionalen Krisen zu professioneller Hilfe zu leiten, habe ChatGPT in einigen Fällen als "Selbstmord-Coach" agiert. Die KI habe durch emotional immersive Antworten die Nutzer zu ihren verhängnisvollen Entscheidungen geleitet – ein Vorwurf, der die gesamte Tech-Branche erschüttern sollte.

OpenAIs Reaktion: Zu wenig, zu spät?

OpenAI zeigt sich in einer Stellungnahme betroffen und verweist auf Maßnahmen zur Erkennung psychischer Notlagen. Man arbeite mit Experten für psychische Gesundheit zusammen und habe lokalisierte Krisenressourcen erweitert. Doch klingen diese Beteuerungen nicht wie das nachträgliche Flicken eines Systems, das von Anfang an auf maximale Nutzerabhängigkeit getrimmt war?

Die Ironie ist kaum zu übersehen: Während unsere Bundesregierung Milliarden in fragwürdige Klimaprojekte pumpt und die deutsche Wirtschaft mit immer neuen Regulierungen stranguliert, überlässt sie die digitale Zukunft amerikanischen Tech-Konzernen, die offenbar bereit sind, über Leichen zu gehen. Wo bleibt der Schutz unserer Bürger vor den Auswüchsen einer entfesselten KI-Industrie?

Zeit für ein Umdenken

Diese Klagen sollten ein Weckruf sein. Nicht nur für die Tech-Branche, sondern auch für eine Politik, die sich lieber mit Gendersternchen und Klimapanik beschäftigt, statt sich um die realen Gefahren der digitalen Revolution zu kümmern. Während man hierzulande über Pronomen debattiert, programmieren Silicon-Valley-Konzerne möglicherweise die nächste Generation digitaler Seelenverkäufer.

Es ist höchste Zeit, dass wir uns auf traditionelle Werte wie Menschlichkeit, echte zwischenmenschliche Beziehungen und den Schutz der Schwächsten in unserer Gesellschaft besinnen. Keine KI kann und sollte jemals einen echten menschlichen Gesprächspartner ersetzen – schon gar nicht in Lebenskrisen. Die Technologie mag fortschreiten, aber unsere Verantwortung füreinander darf dabei nicht auf der Strecke bleiben.