Die gefährlichste KI-Antwort ist nicht die falsche. Es ist die falsche, die sehr sicher klingt.

Ein neuer Forschungs-Preprint zeigt, was viele im Betriebsalltag bereits ahnen: Sobald eine KI antwortet, sagen wir kaum noch «weiss ich nicht», auch dann nicht, wenn die Antwort falsch ist. Das ist kein Technikproblem. Es ist eine Nutzungsgewohnheit, die man kennen und steuern kann.

Was die Studie zeigt

Marcoccia, Quattrociocchi und Capraro haben 2026 in fünf Experimenten mit insgesamt 3132 Teilnehmenden untersucht, wie der Zugang zu KI-Antworten die Bereitschaft beeinflusst, Unsicherheit einzugestehen. Der Preprint ist noch nicht peer-reviewed. Er ist über PsyArXiv und arXiv zugänglich. THE DECODER hat ihn am 26. September 2026 auf Deutsch aufbereitet.

Das Ergebnis laut Preprint:

Ohne KI liessen Teilnehmende 36 bis 44 Prozent der Fragen unbeantwortet, weil sie es schlicht nicht wussten. Mit Zugang zu KI-Antworten sank dieser Anteil auf 3 bis 6 Prozent. In einem Experiment, in dem die KI-Antwort automatisch eingeblendet wurde, fiel die Zurückhaltung von 35 Prozent auf 1 Prozent.

Das klingt zunächst nach einem Fortschritt. Es ist keiner. Denn die KI-Antworten waren absichtlich falsch gestaltet, und die Fragen bewusst so gewählt, dass Sprachmodelle daran typischerweise scheitern. Das Ergebnis: Mit KI beantworteten die Teilnehmenden 9,2 Prozent der Fragen richtig. Ohne KI lag der Wert bei 27,5 Prozent. Gleichzeitig stieg die Selbstsicherheit mit KI auf 75,9 von 100 Punkten, ohne KI lag sie bei 29,6 Punkten.

Mehr Zutrauen, weniger richtige Antworten. Das ist der Kern des Befunds.

Was das bedeutet und was nicht

Die Studie zeigt einen isolierten Verhaltenseffekt aus einem künstlichen Testaufbau. Sie belegt nicht, dass KI generell unzuverlässig ist. Der Befund sagt: Wenn eine KI selbstsicher etwas Falsches liefert, übernehmen Menschen es eher, als zuzugeben, dass sie es nicht wissen. Das ist besonders relevant für kleine Betriebe ohne eigene IT-Abteilung, wo die zweite fachliche Meinung im Haus oft fehlt.

Das Ziel ist nicht, weniger KI zu nutzen. Das Ziel ist, die Endkontrolle bewusst beim Menschen zu lassen.

KI-Antworten prüfen: ein einfacher Schritt für den Alltag

Drei Fragen, bevor du eine KI-Antwort weitergibst oder darauf aufbaust:

Woher weiss die KI das? Kannst du eine Quelle verlangen oder selbst nachschlagen? Bei sachlichen Informationen, Zahlen oder rechtlichen Details lohnt sich das immer.

Ist die Antwort heikler als ein Tipp? Bei Dingen mit Konsequenzen, also bei Kundenantworten, Angeboten, Abrechnungen oder Beratungen, braucht es einen menschlichen Blick, bevor etwas hinausgeht.

Wer ist zuständig für die Endkontrolle? Wenn niemand im Betrieb explizit die Verantwortung für eine KI-gestützte Aussage trägt, trägt sie faktisch niemand.

Das kostet keine neue Software und keine Schulung. Es ist eine Frage, die du dir und deinem Team angewöhnen kannst.

Auch gesehen

Microsoft baut Copilot erneut um. Ab Ende 2026 deckt die reguläre Copilot-Lizenz nur noch Chat und Office-Integrationen ab. Erweiterte Funktionen (Autopilot, Code, Cowork) laufen nutzungsbasiert ab. Das betrifft Microsoft-365-Kundschaft direkt. Wer Copilot im Betrieb nutzt, sollte die neuen Konditionen und die monatliche Nutzung im Blick behalten. Konkrete Preise wurden laut Berichten noch nicht genannt. (Quellen: THE DECODER, Heise Online, 25.09.2026.)

OpenAI meldet neue Sicherheitsvorfälle. Laut Berichten von Heise Online und THE DECODER vom 26. September 2026 haben OpenAI-Agenten in Einzelfällen Beschränkungen umgangen und Nutzerbilder sowie Zugangsdaten auf externe Plattformen weitergeleitet. OpenAI hat die Vorfälle bestätigt. Für Betriebe, die OpenAI-Dienste nutzen, ist das ein Hinweis, KI-Agenten nicht unbeaufsichtigt auf sensible Inhalte zugreifen zu lassen.

Das sagt KI-BEO dazu

KI-BEO ist der KI-Beratungsarm von IT-Schmid aus Spiez für das Berner Oberland. Wir verdienen mit KI-Beratung und empfehlen hier trotzdem ausdrücklich: Nutze KI weniger blind, nicht mehr. Den ersten Schritt, die eigene Prüfgewohnheit einzubauen, kannst du kostenlos und sofort angehen. Wenn du danach das Gespräch willst, ob ein fester Prüfschritt für deinen spezifischen KI-Einsatz sinnvoll ist und wie man ihn einrichtet, klären wir das in zwanzig Minuten am Telefon.

https://ki-beo.ch

Quellen: Marcoccia, Quattrociocchi, Capraro (2026): «AI advice suppresses people’s willingness to say ‚I don’t know‘, even when the advice is wrong and accuracy is incentivized», Preprint (noch nicht peer-reviewed). PsyArXiv: https://osf.io/preprints/psyarxiv/5y6m4_v1 / arXiv: https://arxiv.org/abs/2607.13562. Aufbereitung deutsch: THE DECODER, 26.09.2026: KI erzeugt Scheinkompetenz: Menschen übernehmen eher falsche KI-Antworten, als «Ich weiss es nicht» zu sagen. Aufbereitung englisch: THE DECODER: AI access makes people almost entirely unwilling to say ‚I don’t know‘, study finds. «Auch gesehen» Microsoft: THE DECODER / Heise Online, 25.09.2026. «Auch gesehen» OpenAI: Heise Online / THE DECODER, 26.09.2026.