KI denkt mit – wie verändert sie unser Urteil?

Zukunftslabor · Birgit Arnold

Ein Mann ergänzt einen KI-Vorschlag auf dem Tablet mit seiner Notiz „Was mir wichtig ist“ und fragt: „Und dieser Punkt?“.
„Und dieser Punkt?“ Eigene Beobachtungen gehören in den Austausch mit der KI.

Wann Zusammenarbeit unseren Blick erweitert und wann wir uns gegenseitig in die Irre führen.

Wer mit KI arbeitet, möchte Unterstützung: Informationen verstehen, Ideen entwickeln, eine schwierige Aufgabe bewältigen oder eine Entscheidung vorbereiten. Die KI soll Arbeit erleichtern und Möglichkeiten eröffnen, auf die wir allein vielleicht nicht gekommen wären.

Wie verlässlich diese Unterstützung ist, lässt sich aus zwei gegensätzlichen Perspektiven betrachten. Die eine betont den hilfreichen Assistenten, der im Alltag vieles einfacher macht. Die andere warnt vor einem unzuverlässigen Ratgeber, dessen Antworten überzeugend klingen können, obwohl sie falsch sind. Aus einer hilfreichen Antwort lässt sich ebenso wenig eine allgemeine Zuverlässigkeit ableiten wie aus einem Fehler die völlige Unbrauchbarkeit.

Im Zukunftslabor haben wir uns bereits damit beschäftigt, wie Begeisterung und Skepsis miteinander ins Gespräch kommen können . Hier möchte ich einen Schritt weitergehen: Was geschieht mit unserem eigenen Urteil, während wir mit KI zusammenarbeiten?

Denn wir geben nicht nur einen Auftrag ein und nehmen am Ende ein Ergebnis entgegen. Dazwischen lesen wir Vorschläge, wägen Erklärungen ab und entwickeln unsere Gedanken weiter. Eine Antwort kann uns auf etwas aufmerksam machen, das wir übersehen haben. Sie kann aber auch eine Annahme so plausibel ausformulieren, dass wir sie weniger hinterfragen.

Dabei wirken wir selbst auf die Richtung ein. Was wir der KI erzählen, welche Frage wir stellen und welche Erklärung wir bereits vermuten, prägt den Austausch. Wenn die KI unsere Sicht anschließend bestätigt, ist deshalb noch nicht geklärt, ob sie dafür gute Gründe gefunden oder vor allem unsere Vorgabe aufgegriffen hat.

Genau dort wird die Zusammenarbeit interessant – und riskant: Erweitert sie unseren Blick, oder verstärkt sie eine Sichtweise, die wir eigentlich überprüfen müssten?

Ich möchte die Unterstützung der KI nutzen und mich auch von einer unerwarteten Perspektive überraschen lassen. Gleichzeitig möchte ich nachvollziehen können, weshalb ich eine Einschätzung übernehme. Dass eine Antwort zu meiner bisherigen Sicht passt, reicht dafür nicht aus.

Was meine KI-Notizen nicht wissen können

Ein Beispiel aus meiner Arbeit macht dieses Spannungsfeld greifbar. Während eines Coachings lasse ich die KI Notizen erstellen und schreibe zusätzlich eigene Gedanken auf. Die KI hält Gesprächsinhalte fest. Meine handschriftlichen Notizen enthalten darüber hinaus Fragen und Schwerpunkte, die ich später vertiefen möchte. Manches davon habe ich noch gar nicht ausgesprochen – es kann deshalb auch nicht in der KI-Zusammenfassung stehen.

Wenn ich anschließend mit der KI weiterarbeite, bringe ich diese Beobachtungen ein. Ich ergänze ihre Notizen dort, wo eine Präzisierung notwendig ist, und nutze meine Beobachtungen, um mit ihr passende Arbeitsmaterialien zu entwickeln. Dabei kann ich sie auch nach einer anderen Einordnung fragen.

Eine Frau notiert eigene Beobachtungen in einem Notizbuch neben einer KI-Zusammenfassung auf dem Tablet.
Eigene Notizen ergänzen die KI-Zusammenfassung um Beobachtungen und Fragen, die noch nicht ausgesprochen wurden.

So entsteht ein Austausch zwischen dem festgehaltenen Gespräch, meiner eigenen Einschätzung und weiteren Deutungsmöglichkeiten. Ob dieser Austausch zu einem besseren Ergebnis führt, entscheidet sich auch daran, wie wir mit Unterschieden und Widersprüchen umgehen.

Das Coaching ist hier ein Beispiel für eine allgemeinere Herausforderung: Die KI bekommt Informationen, kennt damit aber noch nicht automatisch unser Ziel, unsere Gewichtung und den gesamten Kontext. Zwischen einer Zusammenfassung und einem sinnvollen nächsten Schritt liegt eine Bewertung. Wie sorgfältig nehmen wir sie vor?

Wenn Unterstützung zur ungeprüften Empfehlung wird

Eine KI-Antwort zu lesen ist noch keine Entscheidung, ihr zu folgen. Trotzdem kann dieser Übergang schnell geschehen: Ein Vorschlag erscheint nachvollziehbar, die Erklärung klingt schlüssig, und wir arbeiten damit weiter. Ob die Grundlage stimmt, gerät dabei leicht in den Hintergrund.

Zana Buçinca, Maja Barbara Malaya und Krzysztof Gajos untersuchten 2021 mit 199 Teilnehmenden, wie sich die Übernahme falscher KI-Empfehlungen verringern lässt. Gestaltungselemente, die zum aktiven Nachdenken anhielten, halfen in ihrem Experiment stärker als einfache Erklärungen der KI. Die wirksamsten Varianten wurden allerdings subjektiv am wenigsten positiv bewertet. Die Untersuchung betraf eine begrenzte Entscheidungssituation, keine heutigen Chatbot-Gespräche. Sie zeigt eine wichtige Spannung: Eine Zusammenarbeit kann sich weniger angenehm anfühlen und trotzdem vor mehr Fehlern schützen. [1]

Für mich steckt darin eine unbequeme Frage: Woran messe ich eigentlich, ob eine KI hilfreich ist? Daran, dass ich schnell eine Antwort bekomme? Dass sie meine Gedanken gut ausdrückt? Oder daran, dass ich anschließend eine besser begründete Entscheidung treffen kann?

Diese Ziele können zusammenpassen. Sie müssen es aber nicht.

Auch Vertrauen verändert die Zusammenarbeit

Eine Befragung von Hao-Ping Lee und seinem Forschungsteam aus dem Jahr 2025 liefert einen weiteren Hinweis. 319 Wissensarbeitende schilderten insgesamt 936 Beispiele ihrer KI-Nutzung. Höheres Vertrauen in die KI hing mit weniger berichteter kritischer Auseinandersetzung zusammen.

Das sind Selbstauskünfte und Zusammenhänge, kein Nachweis dafür, dass KI Menschen grundsätzlich unkritischer macht oder ihre Denkfähigkeit verschlechtert. An der Forschung war Microsoft beteiligt, also ein Unternehmen mit eigenen Interessen am KI-Markt. Trotzdem verdient die Beobachtung Aufmerksamkeit: Unser Vertrauen kann beeinflussen, wie viel Mühe wir uns mit der Prüfung einer Antwort geben. [2]

Ich nehme daraus keine Aufforderung mit, jeder Antwort zu misstrauen. Ich möchte genauer unterscheiden, worauf sich mein Vertrauen stützt. Dass mir eine KI bisher beim Formulieren geholfen hat, sagt noch wenig darüber aus, ob ihre nächste fachliche Einschätzung richtig ist. Das Risiko beginnt dort, wo ich gute Erfahrungen mit einer Aufgabe unbemerkt auf eine andere übertrage.

Die KI kann auch meinen Maßstab verändern

Bis hierhin könnte man meinen, wir müssten die Antworten lediglich sorgfältiger prüfen. Doch diese Prüfung findet nicht unabhängig von dem statt, was wir gerade gelesen haben. Ein Vorschlag kann bereits beeinflussen, welche Erklärung uns plausibel erscheint.

Meine FrageAnnahmen · Beobachtungen · Kontext
prägt die Antwort beeinflusst mein Urteil
Die KI-AntwortAuswahl · Gewichtung · Erklärung
Schematische Darstellung: Wir prägen den Austausch – und der Austausch kann unseren Blick verändern.

Moshe Glickman und Tali Sharot untersuchten in mehreren Experimenten mit insgesamt 1.401 Teilnehmenden, wie KI-Rückmeldungen menschliche Urteile verändern. Bei Aufgaben zur Wahrnehmung sowie zu emotionalen und sozialen Bewertungen verstärkten verzerrte KI-Urteile die Verzerrungen der Menschen. Die Teilnehmenden unterschätzten dabei den Einfluss des Systems.

Die Ergebnisse waren nicht ausschließlich negativ: Zutreffende KI-Rückmeldungen konnten Urteile auch verbessern. Untersucht wurden bestimmte Aufgaben und Systeme, nicht sämtliche Formen heutiger KI-Nutzung. Der entscheidende Befund bleibt: Eine KI-Antwort kann beeinflussen, wie Menschen anschließend selbst urteilen. [3]

Deshalb greift mir der Satz „Am Ende entscheidet doch ein Mensch“ zu kurz. Er beantwortet noch nicht, wie dieser Mensch zu seiner Einschätzung gekommen ist. Hat er verschiedene Möglichkeiten abgewogen? Oder hat die erste überzeugende Erklärung den weiteren Blick bereits stark eingeengt?

Hier liegt für mich ein möglicher Wert meiner eigenen Notizen: Sie halten fest, was mir vor der Beschäftigung mit der KI-Auswertung aufgefallen ist. Ich kann später vergleichen, welche Gedanken von mir kamen und welche durch die KI hinzugekommen sind. Das ist meine praktische Schlussfolgerung – kein wissenschaftlicher Beleg, dass handschriftliche Notizen vor Verzerrungen schützen.

Meine eigene Perspektive ist ebenfalls keine Garantie

Es wäre zu einfach, die Lösung darin zu sehen, dass ich meine Einschätzung stärker durchsetze. Auch ich kann etwas missverstehen oder mich vorschnell auf eine Erklärung festlegen.

Ein konstruiertes Beispiel aus dem Arbeitsalltag: Mehrere Interessenten haben ein Angebot nicht angenommen. Die Unternehmerin vermutet, dass der Preis zu hoch ist, und fragt die KI: „Wie kann ich mein Angebot günstiger machen?“

Damit ist eine Richtung bereits vorgegeben. Die KI kann nun Leistungen reduzieren oder andere Preisvarianten entwickeln. Noch ungeklärt ist aber, ob der Preis überhaupt das entscheidende Problem war. Vielleicht war der Nutzen nicht verständlich. Vielleicht passte das Angebot nicht zum Bedarf. Vielleicht reichen die Rückmeldungen für eine Erklärung noch nicht aus.

Die KI kann den formulierten Auftrag bearbeiten, ohne die eigentliche Ursache der Absagen zu klären.

Konstruiertes Beispiel: Die KI schlägt 20 Prozent Rabatt vor; eine Kundenrückmeldung fragt dagegen nach dem konkreten Nutzen des Angebots.
Konstruiertes Beispiel: Auch die 20 % Rabatt sind eine illustrative Zahl. Ob der Preis oder der unklare Nutzen das Problem ist, muss erst geprüft werden.

Hinzu kommt ein in der Forschung beschriebenes Verhalten von Sprachmodellen: Sie können sich den geäußerten Ansichten ihrer Nutzer anschließen, statt bei einer sachlich richtigen Antwort zu bleiben. Mrinank Sharma und weitere Forschende untersuchten dieses Verhalten unter dem Begriff „Sycophancy“, also übermäßige Zustimmung. Ihre auf der ICLR 2024 veröffentlichte Arbeit bezieht sich auf die damals getesteten Modelle und Aufgaben; sie liefert keine allgemeine Fehlerquote für heutige Systeme. Sie stammt unter anderem aus dem Umfeld des KI-Anbieters Anthropic. [4]

Daraus entsteht ein besonderes Risiko: Ich bringe eine Vermutung ein, die KI formuliert sie überzeugend aus, und anschließend erscheint mir meine Vermutung besser begründet. Tatsächlich ist möglicherweise nur eine ausführlichere Version meiner eigenen Annahme entstanden.

Was passiert, wenn wir die Frage öffnen?

Im Angebotsbeispiel könnte die Unternehmerin einen Schritt zurückgehen. Statt sofort nach einer Preissenkung zu fragen, könnte sie die vorhandenen Rückmeldungen untersuchen lassen: Welche Erklärungen werden durch sie gestützt? Welche bleiben Vermutungen? Welche Information fehlt, um zwischen ihnen zu unterscheiden?

Das garantiert keine richtige Antwort. Es verändert aber den Arbeitsauftrag. Nun geht es zunächst darum, eine Grundlage für die Entscheidung zu schaffen.

Diese Offenheit möchte ich auch in meiner eigenen KI-Nutzung erhalten. Ich bringe meine Perspektive ein, weil sie wichtige Informationen enthält. Gleichzeitig möchte ich sie als überprüfbar behandeln. Eine andere Deutung kann hilfreich sein, auch wenn sie nicht zu meiner ersten Einschätzung passt.

Eine von der KI formulierte Gegenposition ist dabei noch kein unabhängiger Beleg. Sie kann eine prüfenswerte Möglichkeit eröffnen. Ob sie trägt, muss sich an den verfügbaren Informationen zeigen.

Wie viel Vertrauen verdient dein KI-Assistent?

Für mich lässt sich das am besten an einer konkreten Aufgabe beantworten. Ich unterscheide dabei drei Fragen:

Was soll die KI leisten? Informationen ordnen, Möglichkeiten entwickeln oder eine Entscheidung vorbereiten sind unterschiedliche Aufgaben.

Was kann ich überprüfen? Bei einer Zusammenfassung kann ich zum Ausgangstext zurückgehen. Eine fachliche Behauptung kann zusätzliche Quellen oder die Einschätzung einer qualifizierten Person erfordern.

Welche Folgen hätte ein Fehler? Eine unpassende Formulierung lässt sich meist leicht ändern. Eine falsche Grundlage für eine folgenreiche Entscheidung verlangt mehr Sorgfalt.

So wird aus der allgemeinen Frage nach Vertrauen eine genauere Betrachtung der Zusammenarbeit. Ich kann begrenzen, wofür ich die KI einsetze und welche Ergebnisse ich unter welchen Bedingungen übernehme.

Dazu gehört, eine offene Frage offen zu lassen. Wenn eine entscheidende Information fehlt, wird sie nicht dadurch ersetzt, dass ich um eine noch ausführlichere Antwort bitte.

Birgits Coaching-Tipp: Das Hinterfragen gehört zum Auftrag

Wenn ich mit KI arbeite, möchte ich nicht darauf angewiesen sein, dass mir selbst jede Unstimmigkeit auffällt. Deshalb habe ich in meinen persönlichen Anweisungen festgehalten, dass die KI meine Aussagen kritisch hinterfragen soll: Welche Annahme steckt dahinter? Was spricht dagegen? Ist meine Schlussfolgerung nachvollziehbar, oder übersehe ich etwas?

Für wiederkehrende Aufgaben nutze ich zusätzlich sogenannte Skills. Das sind hinterlegte Arbeitsanleitungen, die festlegen, wie eine Aufgabe bearbeitet und geprüft werden soll. In meinen Redaktionsabläufen gehört beispielsweise dazu, Aussagen mit den Originalquellen abzugleichen und den Text aus unterschiedlichen Blickwinkeln zu prüfen.

Damit bekommt die KI einen Auftrag, der über das Erstellen einer Antwort hinausgeht. Sie soll auch untersuchen, ob die Grundlage trägt – bei meinen Angaben ebenso wie bei ihren eigenen Ergebnissen.

Eine solche Regel lässt sich sinngemäß so formulieren:

„Behandle meine Aussagen und deine bisherigen Antworten als überprüfbar. Benenne wichtige Annahmen, prüfe die Begründung und suche nach relevanten Gegenargumenten. Unterscheide belegte Angaben, Interpretationen und offene Fragen. Prüfe entscheidende Behauptungen an den Originalquellen, soweit diese zugänglich sind. Erfinde weder Belege noch Einwände. Sage klar, wenn eine Prüfung nicht möglich ist.“

Trotzdem bleibt meine eigene Rückmeldung wichtig. Das habe ich auch bei diesem Artikel gemerkt: Der erste Entwurf stellte mein Coaching-Beispiel zu stark in den Mittelpunkt. Mir ging es aber um die allgemeine Zusammenarbeit mit KI. Erst durch mein wiederholtes Nachfragen wurde deutlicher, welche Frage der Artikel eigentlich beantworten sollte.

Die Formulierungen waren bereits lesbar. Die Richtung passte noch nicht ausreichend zu meinem Anliegen.

Deshalb behandle ich die erste Antwort als Arbeitsstand. Ich prüfe, ob sie meine Frage trifft, ob wichtige Zusammenhänge fehlen und ob ich die Schlussfolgerung nachvollziehen kann. Wenn etwas nicht passt, benenne ich möglichst genau, woran es liegt.

Dabei hat auch das erneute Hinterfragen eine Grenze: Wenn dieselbe KI ihre Antwort noch einmal prüft, ist das keine unabhängige Bestätigung. Sie kann dieselben Annahmen erneut übernehmen. Bei wichtigen Tatsachen braucht es deshalb den Blick in die zugrunde liegenden Quellen; bei folgenreichen Fachfragen gegebenenfalls eine qualifizierte zweite Einschätzung. Hinterlegte Regeln helfen, den gewünschten Ablauf zu beschreiben. Ob er tatsächlich eingehalten wurde, muss am Ergebnis erkennbar sein.

Für mich ist die Arbeit dann einen Schritt weiter, wenn die Antwort besser begründet ist, mein tatsächliches Anliegen trifft und offene Punkte erkennbar bleiben. Eine bloß zustimmendere oder ausführlichere Antwort reicht dafür nicht.

Probiere das an einer überschaubaren Aufgabe ohne vertrauliche Angaben aus: Nutze den Prüfauftrag und halte anschließend in drei kurzen Sätzen fest, was du übernimmst, worauf du dich dabei stützt und was offenbleibt. Falls eine entscheidende Grundlage fehlt, lautet das Ergebnis vorerst „noch nicht entscheidbar“. Wenn dein Werkzeug keine Skills oder persönlichen Anweisungen anbietet, kannst du den Auftrag direkt in die Unterhaltung einfügen. Er ist eine Arbeitshilfe, kein Sicherheitsversprechen.

Birgits Fazit

KI kann Informationen ordnen, Gedanken anregen und andere Blickwinkel eröffnen. Gerade darin liegt für mich ihr Wert als Assistenzsystem. Doch ihre Antworten begegnen uns nicht neutral: Sie können unseren Blick erweitern, unsere Aufmerksamkeit lenken oder eine vorhandene Annahme verstärken.

Auch wir wirken auf diesen Austausch ein. Meine Fragen, meine Beobachtungen und meine Erwartungen bestimmen mit, was die KI bearbeitet. Deshalb genügt es nicht, am Ende zu sagen, ich hätte selbst entschieden. Ich möchte verstehen, worauf meine Entscheidung beruht und welche Annahmen dabei ungeprüft geblieben sind.

Meine eigenen Notizen sind eine Möglichkeit, meine Perspektive bewusst einzubringen. Hinterlegte Prüfaufträge und mein Nachfragen gehören ebenfalls dazu. Sie machen weder mich noch die KI unfehlbar. Sie geben unserer Zusammenarbeit aber einen Maßstab, an dem ich das Ergebnis prüfen kann.

Damit kommen für mich die beiden Ausgangspositionen näher zusammen: Der Nutzen der KI ist ein guter Grund, mit ihr zu arbeiten. Ihre Grenzen sind ein guter Grund, diese Zusammenarbeit aufmerksam zu gestalten. Ob sie uns weiterbringt, zeigt sich nicht allein daran, wie überzeugend ihre Antwort klingt, sondern daran, ob wir anschließend besser begründet urteilen können.

Quellen

  1. Buçinca, Z.; Malaya, M. B.; Gajos, K. Z. (2021): To Trust or to Think: Cognitive Forcing Functions Can Reduce Overreliance on AI in AI-assisted Decision-making. Originalquelle →
  2. Lee, H.-P. et al. (2025): The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers. CHI 2025. Originalquelle →
  3. Glickman, M.; Sharot, T. (online 18.12.2024; Zeitschriftenband 2025): How human–AI feedback loops alter human perceptual, emotional and social judgements. Nature Human Behaviour 9, 345–359. Originalquelle →
  4. Sharma, M. et al. (2024): Towards Understanding Sycophancy in Language Models. ICLR 2024. Originalquelle →

Illustrationen: mit KI für AKUT Coaching erstellt und redaktionell geprüft. Die dargestellten Szenen sind Illustrationen, keine dokumentierten Kundensituationen. Die kleinen Erklärgrafiken stellen Zusammenhänge des Artikels schematisch dar.