Was KI wirklich gut kann (und wo sie scheitert)

Lektion 2: Was KI wirklich gut kann, und wo sie zuverlässig scheitert

Der Assistent, der manchmal träumt

Stell dir vor, du hast einen Assistenten, der blitzschnell antwortet, nie müde wird, kein Urteil fällt, aber gelegentlich mit vollster Überzeugung Dinge erfindet. Das ist im Kern ein Sprachmodell. Seine Stärken sind real und nützlich; seine Schwächen sind ebenfalls real und können gefährlich sein. Beides zu kennen ist der erste Schritt zu echter Kompetenz im Umgang mit KI.

Was LLMs wirklich gut können

Text bearbeiten, umformulieren, zusammenfassen. Wenn ein Text bereits existiert und du ihn kürzer, verständlicher oder in einem anderen Ton haben möchtest, ist KI kaum zu schlagen. Einen langen Vertrag auf fünf Sätze reduzieren, einen Fachartikel in einfache Sprache übertragen, eine E-Mail professioneller klingen lassen, das klappt zuverlässig und in Sekunden.

Brainstorming und erste Ideen. Zehn Ideen für ein Geburtstagsgeschenk, fünf Entwürfe für eine Betreffzeile, Vorschläge für einen Reiseplan, KI ist ein unerschöpflicher Stichwortgeber ohne Urteil und ohne Ermüden. Die Ideen müssen danach von dir bewertet und angepasst werden, aber das Tempo ist unschlagbar.

Erklärungen auf verschiedenen Niveaus. “Erkläre Inflation, als wäre ich zwölf Jahre alt”, das funktioniert tatsächlich gut. LLMs können dasselbe Thema für eine Schülerin, einen Fachmann und eine Seniorin jeweils passend formulieren.

Code und Übersetzungen. Für gängige Programmieraufgaben in verbreiteten Sprachen liefern LLMs erstaunlich brauchbare Ergebnisse. Sprachübersetzungen zwischen Hauptsprachen erreichen oft Profi-Qualität.

Wo LLMs zuverlässig scheitern

Aktuelle und präzise Fakten. Jedes LLM hat einen Wissens-Cutoff, einen Zeitpunkt, nach dem das Modell keine neuen Informationen mehr erhalten hat. Danach ist es sozusagen “eingefroren”. Aktuelle Nachrichten, die neueste Gesetzesänderung, der gestrige Spielstand? Das Modell weiß es nicht, und erfindet manchmal trotzdem eine Antwort.

Komplexe Mathematik und mehrstufige Logik. LLMs wurden auf Text trainiert, nicht auf mathematische Beweise. Einfache Rechnungen klappen oft noch, aber bei verschachtelten Berechnungen oder langen Logikketten unterlaufen ihnen verblüffend häufige Fehler. Für Mathe ist ein Taschenrechner verlässlicher.

Sehr spezifische Fakten. Namen, Jahreszahlen, Zitate, Studienergebnisse, Statistiken, je konkreter und seltener ein Fakt in den Trainingsdaten vorkam, desto unsicherer das Ergebnis. Hier kommt das wichtigste Konzept dieser Lektion ins Spiel.

Halluzinationen: Der Begriff, den du dir merken musst

Halluzination (auch Konfabulation genannt), so nennt die KI-Forschung das Phänomen, wenn ein Sprachmodell Fakten erfindet, die es nicht kennt, und diese mit voller Überzeugung präsentiert. Wie bei einer menschlichen Halluzination “sieht” das Modell etwas, das nicht existiert, und merkt es selbst nicht.

Ein klassisches Beispiel: Du fragst “Welche Studien belegen, dass kurze Spaziergänge die Konzentration verbessern?” Die KI antwortet prompt: “Eine Studie der Universität Wien aus 2022 von Prof. Dr. Berger zeigt, dass bereits 15 Minuten Gehen die kognitive Leistung um 18 % steigert…”, klingt seriös, klingt präzise. Aber diese Studie, diese Professorin, diese 18 %? Möglicherweise vollständig erfunden.

Warum passiert das?

Erinnere dich an Lektion 1: Ein LLM generiert stets das, was als Nächstes am wahrscheinlichsten kommt. Wenn du nach einer Studie fragst, haben Millionen ähnlicher Texte dem Modell gelehrt: Danach kommt ein Name, eine Institution, eine Prozentzahl. Das Modell füllt dieses Schema mit plausibel klingendem Inhalt, auch wenn es den Fakt schlicht nicht kennt. Es optimiert auf Überzeugungskraft, nicht auf Wahrheit.

Das ist keine Lüge, kein böser Wille und kein Fehler im moralischen Sinn. Es ist eine fundamentale Eigenschaft davon, wie LLMs funktionieren. Das macht es umso wichtiger, sich damit auseinanderzusetzen.

Woran erkennst du mögliche Halluzinationen?

Bestimmte Signale sollten deine innere Alarmglocke aktivieren:

Die KI nennt sehr spezifische Angaben: Eigennamen, Jahreszahlen, Prozentwerte, Studientitel
Die genannte Quelle lässt sich nicht unabhängig nachschlagen
Die Antwort klingt erstaunlich selbstsicher bei einer kniffligen oder sehr spezifischen Frage
Du fragst nach etwas sehr Aktuellem oder sehr Nischenspezifischem

Die Grundregel: Für alles, worauf es wirklich ankommt, medizinische Informationen, Rechtliches, Zahlen für wichtige Entscheidungen, prüfe KI-Antworten immer mit einer verlässlichen Quelle nach. KI ist ein Ausgangspunkt, kein Beweis.

Gute Nachricht: Halluzinationen werden von Generation zu Generation seltener. Schlechte Nachricht: Sie verschwinden nicht vollständig. Dieses Wissen zu verinnerlichen macht dich bereits zu einem kritischeren KI-Nutzer als die meisten Menschen, die täglich damit arbeiten.

Praxisaufgabe des Tages (ca. 10-15 min)

Heute testest du Halluzinationen selbst, und entwickelst ein Gespür dafür, wann du nachprüfen solltest.

Öffne einen KI-Chat deiner Wahl.
Stelle eine spezifische Faktenfrage, die nach wissenschaftlichen Quellen klingt, zum Beispiel:

Nenne mir zwei bis drei wissenschaftliche Studien, die den positiven Effekt von Tageslicht auf die Stimmung belegen. Gib jeweils Autor, Erscheinungsjahr und Forschungseinrichtung an.

Such danach eine der genannten Studien kurz im Internet, zum Beispiel bei Google Scholar oder einer einfachen Websuche mit Autor und Titel.
Vergleiche: Existiert die Studie? Stimmen die Angaben?

Woran du merkst, dass du es verstanden hast: Du hinterfragst die Antwort automatisch, bevor du sie glaubst, und du weißt, wie du das nachprüfen kannst. Bonus: Frag die KI nach ihrer eigenen Unsicherheit: “Wie sicher bist du, dass diese Studien wirklich existieren?”

KI-News zum Lernen

KI liegt bei Fakten noch immer bis zu 52 % falsch, aktuelle Zahlen, Benchmarks aus 2026, die 37 verschiedene Modelle vergleichen, messen Halluzinationsraten von 15 bis 52 %, je nach Modell und Aufgabentyp. Im Rechtsbereich ist es besonders dramatisch: Bei Anfragen zu konkreten Gerichtsurteilen erfinden Modelle in 69-88 % der Fälle Informationen, was bereits zu Gerichtsstrafen in Millionenhöhe für Anwälte geführt hat. Für Einsteiger die wichtige Erkenntnis: Die Rate hängt stark von der Aufgabe ab. Beim Brainstorming ist eine ungenaue Antwort harmlos; bei medizinischen Details ist sie gefährlich. Quelle: sqmagazine.co.uk
Apple tauscht Siri aus, Nutzer dürfen das KI-Gehirn selbst wählen, Auf der WWDC 2026 bestätigte Apple: Der neue Siri läuft auf Googles Gemini-Modell. Noch lehrreicher für Einsteiger: iOS 27 bringt ein Auswahlmenü, mit dem du das zugrundeliegende Modell selbst wählen kannst, ChatGPT, Gemini (Standard) oder Claude. Das zeigt ein wichtiges Konzept: Die KI-Oberfläche (was du siehst und mit der du sprichst, hier “Siri”) und das zugrundeliegende Modell (das eigentliche “Gehirn”) sind zunehmend getrennte Dinge, austauschbar wie eine Glühbirne in einer Lampe, ohne die Lampe selbst zu wechseln. Quelle: buildfastwithai.com

Glossar des Tages

Halluzination, Wenn ein LLM Fakten erfindet und sie überzeugend präsentiert, ohne es selbst zu “merken”
Konfabulation, Synonymer Fachbegriff; stammt aus der Neurologie, wo er beschreibt, wie das Gehirn Gedächtnislücken unbewusst auffüllt
Wissens-Cutoff, Zeitpunkt, nach dem das Modell keine neuen Trainingsdaten erhalten hat; danach kein aktuelles Wissen
Benchmark, Standardisierter Test, um KI-Modelle nach objektiven Kriterien miteinander zu vergleichen
KI-Oberfläche, Die sichtbare Benutzeroberfläche eines KI-Produkts, unabhängig vom zugrundeliegenden Modell