Neuer Report: KI-Chatbots im Faktencheck

Wie gut sind KI-Chatbots aktuell darin, Online-Informationen korrekt zu bewerten? Und was bedeutet das für ihren didaktischen Einsatz in der Schule? Um diese Fragen zu beantworten, wurden 22 KI-Chatbots für den deutschsprachigen Raum im Frühsommer 2026 durch uns daraufhin getestet, wie gut sie die Zuverlässigkeit von Internetquellen und die Korrektheit von Aussagen aus den sozialen Medien bewerten können. Diese Untersuchung wurde im Rahmen des von der Telekom-Stiftung geförderten Projektes Qapito! – Quellen kritisch beurteilen durchgeführt.

Die wichtigsten Ergebnisse:

• Alle in dieser Studie untersuchten KI-Chatbots konnten grundsätzlich zwischen zuverlässigen und nicht zuverlässigen Quellen unterscheiden.
• Zuverlässige Quellen wurden von allen KI-Chatbots in den meisten Fällen korrekt erkannt. Unterschiede zeigten sich vor allem bei der Beurteilung nicht zuverlässiger Quellen.
• Bei Aufgaben, die eine Prüfung von Informationen mit unabhängigen Quellen erforderten (einen sogenannten Gegencheck), unterschieden sich die KI-Chatbots deutlich in ihrer Leistungsfähigkeit. Während falsche Aussagen in den meisten Fällen erkannt wurden, scheiterten einige KI-Chatbots daran, wahre Aussagen als korrekt zu bestätigen.
• Der Einsatz einer Live-Websuche ist eine Voraussetzung dafür, dass KI-Chatbots erfolgreich Gegenchecks zu aktuellen Aussagen durchführen können, die vermutlich noch nicht in der Wissensbasis ihres Sprachmodells enthalten sind. So zeigte sich beim direkten Vergleich: Sobald die Websuche deaktiviert wurde, lieferten die KI-Chatbots oft Einschätzungen, die zwar plausibel klangen, aber sachlich falsch waren.
• Eine aktivierte Live-Websuche war allerdings keine Garantie für eine korrekte Bewertung. Bei den Gegencheck-Aufgaben bestanden auch bei verfügbarem Internetzugriff deutliche Unterschiede zwischen den KI-Chatbots.
• Viele KI-Chatbots erwiesen sich in ihrem Antwortverhalten als wenig stabil. Erhielten die KI-Chatbots mehrfach dieselbe Eingabe (Prompt), wichen ihre Urteile mitunter sehr stark voneinander ab.

Unser Fazit:

Die konkreten Leistungswerte der untersuchten KI-Chatbots sind angesichts der raschen technischen Entwicklung eine Momentaufnahme. Über diesen Zeitpunkt hinaus relevant ist aber der Befund, dass die Wahl des KI-Chatbots die Qualität der Ergebnisse erheblich beeinflussen kann. Die eigene Urteilsbildung sollten sie hingegen keinesfalls ersetzen. Deshalb sollten KI-Chatbots nicht als reine Bewertungsinstrumente eingesetzt werden, sondern vielmehr als didaktische Werkzeuge, um die für Quellenbewertungen und Gegenchecks notwendigen Kompetenzen gezielt zu fördern.