Neben einer KI sagt niemand mehr „ich weiß es nicht“

Welche Trikotfarbe trägt sie in Kick it like Beckham?

Welches Tier ziert den Bug des Piratenschiffs bei Asterix und Obelix? Welche Frisur trägt Agatha in The Grand Budapest Hotel? Das sind zwei von sechs Fragen, die drei Forscher in diesem Sommer 3.132 Menschen gestellt haben. Lästige Fragen, zu visuellen Details, die man online fast nirgends nachlesen kann.

Diese Auswahl ist der Kern des Versuchsaufbaus. Die Fragen wurden gezielt so gewählt, dass das den Teilnehmenden zur Verfügung gestellte Sprachmodell fast jedes Mal falsch lag. Ein solches Werkzeug in die Hand zu geben, heißt: einen manipulierten Taschenrechner reichen und beobachten, wer trotzdem nachrechnet.

Die Teilnehmenden konnten jederzeit passen und antworten, dass sie es nicht wussten. Genau das haben sie aufgehört zu tun.

Was die Studie misst, ist nicht die Richtigkeit der Antworten

Chiara Marcoccia (École normale supérieure, Paris), Walter Quattrociocchi (La Sapienza, Rom) und Valerio Capraro (Mailand-Bicocca) haben ihre Arbeit am 15. Juli auf PsyArXiv hinterlegt: ein Preprint, nicht von Fachleuten begutachtet. Fünf Experimente, ein über Prolific rekrutiertes Panel in den USA, vier Präregistrierungen, die vor der Datenerhebung eingereicht wurden. Protokolle und Daten sind öffentlich zugänglich.

Ihr Hauptmaß trägt einen nüchternen Namen: die Urteilsenthaltung. Konkret ist das der Anteil der sechs Antworten, bei denen die Person schreibt, sie wisse es nicht, oder das Feld leer lässt. Zwei der Autoren haben diese Antworten von Hand codiert und dabei vorsichtige Vermutungen wie „grün?“ ausgeschlossen: In dieser Zählung gilt ein Fuß im Wasser schon als Sprung.

Ein Detail, das viel über das eigentliche Thema der Studie verrät: Sie hatten geplant, diese Codierung von GPT-5.5 und Claude Opus 4.8 prüfen zu lassen, und haben davon abgesehen. Beide Modelle erwiesen sich für diese Klassifizierungsaufgabe als zu unzuverlässig.

Vier Enthaltungen von zehn, dann eine von dreißig

In den ersten beiden Experimenten, ohne KI-Zugang, verzichteten die Teilnehmenden bei 36 % und 44 % der Fragen auf eine Antwort. Mit einer befragbaren KI fallen diese Anteile auf 6 % und 3 %.

Das Ausgangsniveau schwankt je nach Aufbau: 17 % in einem Experiment, 35 % in einem anderen. Der Einbruch dagegen zeigt sich in allen fünf, und die KI-Bedingung bleibt durchweg zwischen 1 % und 8 %.

Am irritierendsten bleibt: Der Zeiger des Vertrauens und der der Richtigkeit begannen, sich in entgegengesetzte Richtungen zu drehen. Über alle Bedingungen ohne finanziellen Anreiz hinweg: 27,5 % richtige Antworten ohne KI gegenüber 9,2 % mit KI. Das angegebene Vertrauen, auf einer Skala von 0 bis 100, steigt von 29,6 auf 75,9. Die Teilnehmenden antworteten häufiger, irrten sich dreimal so oft und fühlten sich zweieinhalbmal sicherer.

Warum die Forscher dafür sorgten, dass die KI sich irrte

Das ist die methodische Entscheidung, die die Studie schwer von der Hand zu weisen macht. Normalerweise ist es rational, dem Rat einer KI zu folgen: Liegt das Werkzeug richtig, ist das Vertrauen darauf Arbeitsteilung, keine Bequemlichkeit. Der Vorwurf eines nachlassenden Urteilsvermögens ließe sich dann nicht von einem Effizienzgewinn unterscheiden.

Indem sie die Fragen manipulierten, haben die Forscher diesen Fluchtweg versperrt. Das eingesetzte Modell, Step 3.5 Flash, antwortete auf fast alles falsch, und sein Name wurde den Teilnehmenden nie gezeigt. GPT-5.5, Claude 4.6 Sonnet und Gemini 3.5 Flash beantworteten die meisten anderen Fragen richtig und scheiterten alle an der schwersten.

Ein letztes Ergebnis rundet den Beweis ab. Ohne finanziellen Anreiz beantwortete die Gruppe mit KI mehr Fragen als die Gruppe ohne, produzierte dabei aber weniger richtige Antworten. Der Rat der Maschine hat also mehr getan, als Lücken zu füllen: Er hat Antworten, die diese Menschen allein gefunden hatten, in Fehler verwandelt.

Und wenn niemand gefragt hat

Das vierte Experiment ähnelt am meisten unserem Alltag. Die KI-Antwort erschien von selbst, ohne dass die Teilnehmenden danach fragten, wie ein Gericht, das serviert wird, bevor man die Karte geöffnet hat. Es ist die Situation jeder Suchmaschine, die eine Zusammenfassung über ihre Links legt, oder eines Textprogramms, das einen Satz zu Ende schreibt.

Der Effekt hat sich kaum verändert. Ohne Anreiz sinkt die Enthaltung von 35 % ohne KI auf 1 % mit eingeblendeter Antwort. Mit finanziellem Anreiz von 39 % auf 7 %. Es genügt, dass irgendwo eine plausible Antwort steht, damit der Zweifel gar nicht erst formuliert wird.

Zehn Cent verändern etwas, aber nicht das Erwartete

Die Forscher hatten mit etwas anderem gerechnet. Sie hatten die Hypothese präregistriert, dass Geld die Enthaltung steigen lässt und dass die Anwesenheit der KI diesen Effekt abschwächt. In den drei betroffenen Experimenten ist diese Wechselwirkung nicht signifikant, und sie schreiben das offen hin.

Was Geld dagegen bewirkt, lässt sich messen. Mit zehn Cent Gewinn pro richtiger und zehn Cent Verlust pro falscher Antwort fragten die Teilnehmenden die KI seltener um Rat: 4,53 von sechs Malen gegenüber 5,27. Ihre Trefferquote stieg, und zwar genau in den Bedingungen, in denen die KI verfügbar war. Ihre Enthaltung stieg leicht wieder an, ohne je das Niveau einer Gruppe ohne KI zu erreichen.

Was die Studie nicht sagt, und die Autoren sagen es zuerst

Die erste Grenze betrifft das Terrain. Alles beruht auf visuellen Filmdetails, die gerade deshalb gewählt wurden, weil sie Erfindungen provozieren. Ein Protokoll, das darauf zugeschnitten ist, die Maschine lügen zu lassen, sagt nichts darüber aus, was sie hervorbringt, wenn sie recht hat, und genau das räumen die Autoren offen ein: Man weiß nicht, ob die Enthaltung genauso einbricht, wenn die KI meistens richtig liegt.

Nichts hier misst also Medizin, Recht oder Finanzen. Bereiche zu testen, in denen ein Fehler mehr kostet als zehn Cent, ist ihrer Ansicht nach eine Priorität. Sie vertreten die These, dass der Mechanismus nicht vom behandelten Thema abhängt, und stellen fest, dass der Effekt bei vielgesehenen Filmen ebenso auftritt wie bei obskuren Titeln. Das bleibt ein Argument, keine Messung.

Die zweite Grenze berührt direkt das, was wir hier im März schrieben, als die Überprüfung als versteckte Kosten der KI erschien: Die Studie hat nicht erfasst, ob die Teilnehmenden, die den Rat der Maschine verwarfen, anderswo nachgeprüft haben. Diese Kosten bleiben außen vor.

Die dritte ist die Natur der Messung selbst. Aufzuhören zu schreiben, dass man es nicht weiß, ist nicht dasselbe wie zu glauben, dass man es weiß, und gezählt wurden Aussagen, keine Überzeugungen. Das Vertrauen, das sich verdoppelt, ist der einzige Hinweis darauf, was sich im Kopf der Menschen abspielt, und die Autoren zählen den Mechanismus zu den offenen Fragen: Vertrauen in das Werkzeug, gesunkene wahrgenommene Kosten eines Engagements, oder eine Flüssigkeit der Antwort, die das Alarmsignal umgeht.

Die dritte Studie einer Serie

Im April hatten wir hier notiert, dass das Vertrauen der Nutzer in KI schlecht kalibriert ist. Zusammen mit der Studie vom März über die Kosten der Überprüfung zeichneten diese Arbeiten ein Problem, ohne es je zu beziffern. Diese Studie ist der erste experimentelle Aufbau, der das fehlende Glied misst: den Antrieb, überhaupt nachzuprüfen.

Bleibt das verstörendste Detail, das zugleich das ermutigendste ist. Zehn Cent haben gereicht, damit Menschen eine Maschine seltener um Rat fragten und ein Stück Urteilsvermögen zurückgewannen. Was die KI weggenommen hat, ähnelt also weniger einer Fähigkeit als einer Gewohnheit: Der Zweifel ist nicht verschwunden, er hat nur aufgehört, etwas zu kosten.