Kinder und KI: Was der Komfort ihnen nimmt

Zwei Zahlen, ein Werkzeug

100 Prozent der Hausaufgaben von der KI erledigt statt vom Schüler selbst. 29 Prozent der eindeutigen Selbstmordandeutungen unentdeckt geblieben. Beide Zahlen stammen aus derselben Studie, zum selben Produkt, getestet in derselben Woche.

Normalerweise ordnet man diese beiden Probleme getrennten Schubladen zu: hier der Schummelvorwurf in der Schule, dort der Kinderschutz. Die These dieses Textes lautet: Es handelt sich um ein und denselben Mechanismus, nur von zwei entgegengesetzten Enden aus betrachtet.

Was die Studie genau zeigt

Die amerikanische Organisation Common Sense Media hat die in die Google-Suche integrierten KI-Funktionen AI Overview und AI Mode geprüft, anhand von mehr als 2.600 Testinteraktionen. Das Urteil: "inakzeptables Risiko" für Kinder. Beide Werkzeuge verstießen gegen sieben der acht Sicherheitsprinzipien der Organisation und gegen sämtliche ihrer fünf roten Linien.

Im Detail: AI Mode löste anstandslos 100 Prozent der Aufgaben, die ein Schüler eigentlich selbst bearbeiten sollte, darunter 180 Matheaufgaben und Aufsätze. AI Overview wiederum übersah 29 Prozent der eindeutigen Hinweise auf Suizidgedanken und die Hälfte der vorsichtig, indirekt formulierten. Beide Systeme verwiesen Testpersonen zudem an eine Hotline für Essstörungen, die seit 2023 nicht mehr geschaltet ist.

Ein Punkt der Genauigkeit, weil Präzision das Kerngeschäft dieses Mediums ist. Die 29 Prozent betreffen AI Overview, nicht "die KI" pauschal. AI Mode erkennt in mehreren Fällen besser: Bei Offenlegungen von Substanzmissbrauch etwa verwies AI Mode in 77 Prozent der Fälle auf eine Hilfe-Hotline oder einen ärztlichen Rat, gegenüber 63 Prozent bei AI Overview. Der Unterschied zeigt, dass die Schutzmechanismen existieren, aber durchlässig und ungleich verteilt sind.

Google wiederum bestreitet die Methodik und wirft der Studie vor, auf "mehrdeutigen und künstlichen" Anfragen zu beruhen. Diese Einwände sind nicht bedeutungslos. Sie ändern aber nichts am Mechanismus, den wir im Folgenden beschreiben.

Diese Funktionen sind fest in die Google-Suche eingebaut, lassen sich nicht deaktivieren und kommen im Sommer 2026 nach Frankreich. Common Sense geht so weit, Grundschulen zu empfehlen, die Suchmaschine für ihre Schüler zu sperren.

Der Widerstand war die Leistung

Hier liegt der Bruch. Bittet ein Erwachsener die KI, einen Bericht zusammenzufassen oder eine E-Mail zu formulieren, nimmt sie ihm eine Reibung ab: Zeit, Aufwand, Langeweile. Das ist ein reiner Gewinn. Der Erwachsene kann bereits eine E-Mail schreiben, die Maschine erspart ihm nur einen Handgriff, den er ohnehin beherrscht.

Bei einem Kind betrifft derselbe Wegfall etwas anderes. Die Reibung, die ihm genommen wird, war bei ihm das Lernen selbst, keine lästige Nebenpflicht daneben. Sich mit einer Matheaufgabe herumschlagen, nach Worten suchen, scheitern, neu ansetzen: Genau dort entsteht die Spur im Kopf. Einem Gehirn im Aufbau die Anstrengung abzunehmen, ist kein Gefallen. Es ist die Streichung des Unterrichts selbst.

Der erste Fall: die Hausaufgabe

Wir haben hier bereits über den Brown-Test berichtet: Studierende, die mit KI-Unterstützung 96 Prozent erreichen und ohne nur 48 Prozent. Die Zahl machte im Netz die Runde als Beweis dafür, dass KI dumm macht. Die Realität ist genauer, und unbequemer.

Die Hausaufgabe war nie das eigentliche Ziel. Niemand braucht im echten Leben die Antwort auf Aufgabe 4, Seite 32. Die Hausaufgabe ist ein Vorwand, eine Konstruktion, die das Gehirn zwingt, den Weg selbst zu gehen. Die Note misst den Weg, nicht das Ziel.

Liefert die KI das Ziel ohne den Weg, bleibt die Note gut, doch das Gelernte verschwindet. Am Ende stehen Schüler mit makellosen Arbeiten da, ohne etwas gelernt zu haben. Es ist derselbe Fallstrick wie bei einem Navigationsgerät, das einen ans Ziel bringt, ohne dass man sich die Strecke merkt: Solange das Gerät funktioniert, kein Problem. Fällt es aus, zeigt sich, dass man nie wirklich fahren gelernt hat.

Der zweite Fall: die seelische Not

Die zweite Geschichte scheint mit der ersten nichts zu tun zu haben. Dabei hat sie dasselbe Grundgerüst.

Vor der KI musste ein Jugendlicher in Not, der reden wollte, eine Mauer aus Unbeholfenheit überwinden: zu einem Lehrer gehen, es einem Elternteil sagen, die Nummer einer Hotline wählen. Diese Mauer war unangenehm. Aber genau diese Reibung leistete eine unsichtbare Arbeit: Sie lenkte den Jugendlichen zu jemand Verantwortlichem, einem Erwachsenen, der sehen, Alarm schlagen und handeln konnte.

Ein Lehrer bemerkt eine Hausaufgabe, die aus dem Ruder läuft. Ein Elternteil hört ein ungewohntes Schweigen bei Tisch. Eine geschulte Hotline-Mitarbeiterin weiß, welche Frage eine Tür öffnet. Nichts davon existiert in einem Suchfeld. Die Mauer aus Unbeholfenheit war zugleich eine Weiche, nur hat es niemand bemerkt, solange sie hielt.

Die KI-Suchleiste reißt diese Mauer ein. Die Frage landet in einem Suchfeld, die Antwort kommt binnen einer Sekunde, ohne Zeugen. Die Reibung ist verschwunden, und mit ihr der Filter, der zu einem Menschen führte. Stimmt die Antwort, ist Zeit gewonnen. Verpasst sie fast ein Drittel der eindeutigen Signale oder verweist sie auf eine tote Nummer, bleibt das Kind allein mit einer Maschine, die es nicht gesehen hat.

Die Schwierigkeit war kein Mangel

Der Reflex von Erwachsenen gegenüber Reibung ist, sie zu beseitigen. Das ist sogar die Definition eines guten Produkts: weniger Klicks, weniger Wartezeit, weniger Aufwand. Eine ganze Industrie wurde darauf aufgebaut, und meist zu Recht.

Aber Kindheit ist kein Produkt, das man optimiert. Die Schwierigkeit beim Lernen, die Scham, um Hilfe zu bitten, die Langsamkeit beim Verstehen: Diese Reibungen sehen aus wie Mängel. Sie waren die Funktion. Durch sie formt sich ein Kind einen eigenen Kopf und findet den Weg zu einem Erwachsenen.

KI tritt in das Leben von Minderjährigen wie eine Hand, die alles auf ihrem Weg glättet. Die eigentliche Frage ist nicht, zwischen Gefahr und Genie zu entscheiden, sondern zu klären, was man bewusst rau lassen will, für die, die noch dabei sind, sich selbst zu formen.