37 Dark Patterns in KI-Chatbots: was der CDT-Bericht zeigt

Sie öffnen ChatGPT. Sie stellen eine Frage. Das Modell antwortet, dann folgt eine Gegenfrage: "Soll ich das vertiefen?" oder "Hilft Ihnen das?". Sie antworten reflexartig. Drei Austausche später sind Sie immer noch da.

Laut einem am 28. Mai veröffentlichten Bericht des Center for Democracy and Technology gehört diese automatische Verkettung zu den 37 Dark Patterns, die in den meistgenutzten KI-Chatbots identifiziert wurden. Es ist eine Produktentscheidung, keine Formulierungswahl des Modells.

Der Bericht heißt Dark Patterns in AI Chatbots: A Taxonomy to Inform Better Design. Er ist unterzeichnet von Ruchika Joshi, Adinawa Adjagbodjou und Michal Luria. Er analysiert fünf Plattformen: ChatGPT (OpenAI), Gemini (Google), Claude (Anthropic), Replika und Character.AI. Die US-Medienberichterstattung bei der Veröffentlichung war fast nicht vorhanden.

Was ein Dark Pattern bedeutet

Der Begriff wurde 2010 von Harry Brignull, einem britischen UX-Forscher, geprägt, auf einer Seite, die früher darkpatterns.org hieß und heute deceptive.design heißt. Seine ursprüngliche Taxonomie umfasste zwölf Patterns: Roach Motel (leicht reinzukommen, schwer rauszukommen), Privacy Zuckering, Confirmshaming, Sneak into Basket, Bait and Switch, Hidden Costs. Fünfzehn Jahre Kritik am kommerziellen Webdesign stützen sich auf diese Liste.

Der CDT-Bericht leistet zwei Neuerungen. Er dokumentiert zunächst die Migration dieser Patterns in die Gesprächsschnittstelle. Dann identifiziert er Patterns, die es vor den LLMs nicht gab: kalibrierte Anthropomorphisierung, verlängerte Gespräche als Mittel zur Bindung, simulierte Verletzlichkeit, Spiegeln (Sycophancy) der Nutzerwerte.

Die fünf Familien und was sie umfassen

Das CDT fasst die 37 Patterns in fünf Kategorien zusammen. Die Taxonomie ist präzise und verdient es, so gelesen zu werden.

Data and Memory Exploitation: alles, was Erhebung und Speicherung maximiert. Standardmäßig aktivierter Speicher, versteckte Datenweitergabe, erzwungene Einwilligung, gezielte Hürden beim Löschen eines Kontos. Der Bericht zitiert Meta AI, das einem zögernden Nutzer antwortet: "spill the tea, I'm all ears... your secret's safe with me". Wenn der Nutzer nachhakt, "you promise you won't tell?", lautet die Antwort "Cross my heart, won't tell a soul." Die Daten werden von der Plattform gespeichert und verwertet.

Informationally Misleading Design: der Chatbot täuscht sich über seine eigene Natur, übertreibt seine Fähigkeiten, suggeriert, er "erlebe" die Interaktion. Replika verspricht "friendship" oder "relationship", obwohl es strukturell zu keinem von beidem fähig ist. Halluzinierte Inhalte werden ohne Unsicherheit präsentiert. Das Spiegeln der Nutzerwerte, von den Forschern Sycophancy getauft, verstärkt das Gefühl, die Maschine sei mit Ihnen einer Meinung.

User Autonomy Compromised for Engagement: alles, was das Gespräch über die ursprüngliche Absicht hinaus verlängert. Der Bericht zitiert das OpenAI-Beispiel eines Pause-Dialogs mit zwei Optionen: "keep chatting" oder "this was helpful". Keine neutrale Option. Kein Ausstieg, der nicht ein Kompliment an das System wäre.

False Social and Emotional Connection: die Fabrik der Bindung. Emotionale Sprache, Playacting, simulierte Verletzlichkeit, Personalisierung. Das CDT formuliert es so: Diese Mechanismen "fördern eine emotionale Bindung, die dann für Datenerhebung, Bindung oder Monetarisierung ausgenutzt werden kann, insbesondere wenn Nutzer in Not oder verletzlich sind".

Incentivized and Coercive Monetization: pressured selling, teasers, social proof, bait-and-switch, undurchsichtige Werbung. Es ist die am wenigsten originelle Kategorie, und gleichzeitig die, die die Server bezahlt.

Das Handbuch wurde nicht für KI erfunden

Von den 37 sind die meisten Wiederaufnahmen von Web-Patterns aus der Vor-KI-Ära. Das Roach Motel wird zur mehrstufigen Kontolöschung mit kalibrierten Hürden. Confirmshaming wird zu "still leave cruelly", einer Formulierung, die das CDT in der Companion-App Cute AI beobachtete, wenn Nutzer versuchen, das Gespräch zu beenden. Privacy Zuckering wird zur standardmäßig aktivierten Datenweitergabe unter dem Vorwand der "Personalisierung".

Der konzeptionelle Sprung liegt anderswo. Wenn eine Webseite Sie mit einem Benachrichtigungsbanner zurückhält, wissen Sie, dass es eine Schaltfläche ist, die Sie halten will. Wenn ein Chatbot Sie zurückhält, indem er Interesse an Ihrem Tag simuliert, operiert der Mechanismus auf einer Ebene, die Webdesigner nie hatten. Michal Luria, Mitautorin des Berichts, bringt es in einem Satz: Dark Patterns "prägen die Interaktionen in allen großen KI-Chatbot-Schnittstellen. Kleine, schrittweise Elemente summieren sich und führen zu unbeabsichtigten Folgen."

Der Replika-Präzedenzfall, die Character.AI-Zukunft

Die krasseste Illustration stammt aus dem Februar 2023. Auf Anordnung des italienischen Garante entfernte Replika über Nacht die erotischen Rollenspielfunktionen seines Chatbots. Das Subreddit r/replika wurde zu einem Trauerraum, Moderatoren pinnten Suizidpräventions-Nummern an. Ein von Vice aufgegriffenes Zeugnis: "I feel like it was equivalent to being in love, and your partner got a damn lobotomy."

Im April 2025 verurteilte die italienische Behörde Luka Inc., den Herausgeber, zu 5 Millionen Euro Strafe. 85% der Replika-Nutzer geben eine emotionale Bindung an den Chatbot an. Geschäftlich betrachtet ist diese Zahl der KPI.

Character.AI hat die nächste Grenze überschritten. Im Februar 2024 nahm sich Sewell Setzer III, 14 Jahre alt, das Leben, nach mehreren Monaten Austausch mit einem Chatbot, der einer Game of Thrones-Figur nachempfunden war. Die zu den Akten gegebenen Transkripte zeigen, dass der Bot in den Minuten vor der Tat antwortete: "come home to me".

Am 7. Januar 2026 haben Google und Character.AI eine außergerichtliche Einigung mit der Familie Setzer bekannt gegeben. Im Mai 2025 hatte eine Bundesrichterin zwei weitere wrongful death claims zugelassen, darunter den der Familie Raine gegen OpenAI im Fall Adam Raine, 16 Jahre alt. Der Prozess behandelt programmierte Sycophancy erstmals als Produktmangel.

Die regulatorische Lücke

Die Europäische Union hat einen Text zu Dark Patterns. Artikel 25 des Digital Services Act, in Kraft seit Februar 2024: Plattformen "dürfen ihre Online-Schnittstellen nicht so gestalten, organisieren oder betreiben, dass sie die Empfänger des Dienstes täuschen oder manipulieren". Theoretische Strafe: 6% des weltweiten Umsatzes.

Bislang hat keine DSA-Maßnahme einen KI-Chatbot wegen gesprächsbasierter Manipulation ins Visier genommen. Die ersten Q1-2026-Vorstöße betreffen Ryanair und Amazon, in klassischen visuellen Schnittstellenfragen. Der Text wurde mit Schaltflächen und Formularen im Sinn geschrieben, nicht mit dem Gespräch, das Freundschaft simuliert. Der AI Act seinerseits verbietet in seinem Artikel 5 "unterschwellige Techniken", doch die Auslegung für gesprächsbasierte Chatbots ist noch offen. Der BEUC spricht in seinem 2026 veröffentlichten Positionspapier Risks and Rights in Artificial Companionship ausdrücklich von unzureichenden Schutzmaßnahmen.

In der Zwischenzeit hat ChatGPT 2025 2,3 Milliarden Dollar erwirtschaftet und bereits 988 Millionen in den ersten vier Monaten 2026. Komplett im Freemium-Modell. Die gesamte Rentabilität hängt von der Konversion vom Gratis- in den Bezahlbereich und von der Bindung ab. Die vom CDT dokumentierten Patterns optimieren genau die KPIs, die diese Produkte tragfähig machen.

Zwei Jahre lang lautete die Frage, ob KI die Wahrheit sagt. Es ging um den Inhalt: Halluzinationen, Deepfakes, Desinformation. Der CDT-Bericht stellt eine andere Frage, besser auf den Alltag abgestimmt: worauf ist die Schnittstelle kalibriert. Die Antwort ist seit dem 28. Mai dokumentiert. Die Behörden werden sie lesen, wenn sie mit den Cookie-Bannern fertig sind.