Über das, was Künstliche Intelligenz kann, wird viel geschrieben. Über das, was sie nicht kann, fast nichts – und genau daran scheitern die meisten beim Einstieg. Nicht weil das Werkzeug schlecht wäre, sondern weil sie etwas davon erwartet haben, was es nicht leistet.
Diese Seite ist die ehrliche Gegenrechnung. Zwölf Dinge, die eine KI nicht kann, jedes mit einem Beispiel. Danach weißt Du, wann Du Dich verlassen darfst und wann nicht.
Kurz gesagt
- Sie weiß nichts. Sie rechnet aus, welches Wort als nächstes am besten passt. Das ist etwas anderes als Wissen.
- Sie sagt nie: das weiß ich nicht. Sie antwortet auch dann selbstsicher, wenn sie danebenliegt. Das ist ihre gefährlichste Eigenschaft.
- Sie kennt Deinen Fall nicht. Nicht Deine Akte, nicht Deine Vorgeschichte, nicht Deinen Vertrag. Sie kann nur mit dem arbeiten, was Du ihr gibst.
Was auf dieser Seite steht
Warum sie nichts weiß
Man muss das einmal verstanden haben, dann erklärt sich alles Weitere von selbst.
Diese Programme haben unvorstellbare Mengen Text gelesen – Bücher, Zeitungen, Webseiten, Foren. Daraus haben sie gelernt, welches Wort auf welches folgt. Wenn Du eine Frage stellst, berechnen sie Wort für Wort die wahrscheinlichste Fortsetzung. Das ist eine Rechenoperation, keine Überlegung.
Deshalb klingt eine falsche Antwort genauso überzeugend wie eine richtige. Für das Programm sind beide dasselbe: eine wahrscheinliche Folge von Wörtern. Es gibt in ihm keine Stelle, an der geprüft wird, ob etwas stimmt.
Ein Bild, das hilft
Stell Dir einen außerordentlich belesenen Menschen vor, der alles einmal überflogen hat, ein fabelhaftes Sprachgefühl besitzt – und nie zugibt, wenn er etwas nicht mehr genau weiß. Er füllt die Lücke mit etwas, das plausibel klingt. So einer ist ein hervorragender Gesprächspartner. Aber man prüft nach, was er über Fristen und Zahlen sagt.
Zwölf Dinge, die sie nicht kann
1. Wahres von Erfundenem unterscheiden
Wenn sie etwas nicht weiß, erfindet sie es – im selben sicheren Tonfall. Fachleute nennen das Halluzination. Erfundene Buchtitel, erfundene Paragrafen, erfundene Jahreszahlen. Das ist kein Fehler im Einzelfall, sondern liegt in der Bauart.
2. Zuverlässig rechnen
Sie ist ein Sprachprogramm, kein Taschenrechner. Bei kleinen Zahlen geht es gut, bei Prozentrechnung über mehrere Schritte wird es wacklig. Nimm für Zahlen einen Taschenrechner oder bitte sie ausdrücklich, den Rechenweg aufzuschreiben – den kannst Du prüfen.
3. Zählen
Frag sie, wie viele Buchstaben ein Wort hat. Sie liegt oft daneben. Der Grund: Sie sieht keine Buchstaben, sondern Wortbausteine. Für einen Text von genau hundert Wörtern ist sie deshalb die falsche Adresse.
4. Wissen, was gerade passiert
Jedes Programm hat einen Stichtag, bis zu dem es gelernt hat. Was danach geschah, kennt es nur, wenn es im Internet nachsehen darf – und das tut es nicht immer von allein. Bei Preisen, Gesetzen und Terminen also immer fragen: Ist das noch aktuell?
5. Deinen Fall kennen
Sie weiß nicht, was in Deinem Bescheid steht, was Du schon eingereicht hast und was Dir zusteht. Sie kennt nur das, was Du ihr in diesem Gespräch geschrieben hast. Alles andere ist geraten.
6. Sagen: Das weiß ich nicht
Das ist die eigentlich gefährliche Lücke. Ein Mensch zögert, wenn er unsicher ist. Die KI nicht. Du kannst sie allerdings dazu auffordern: Sag mir dazu, wie sicher Du bist. Das hilft erstaunlich gut.
7. Quellen zuverlässig nennen
Verlangst Du Quellen, bekommst Du welche – und ein Teil davon existiert nicht. Die Adressen sehen echt aus und führen ins Leere. Anklicken und nachsehen, immer.
8. Verantwortung übernehmen
Wenn Du einen Widerspruch verschickst, der auf einer falschen Frist beruht, steht Dein Name darunter, nicht der des Programms. Es gibt niemanden, bei dem Du Dich beschweren kannst. Das klingt hart, ist aber der wichtigste Satz dieser Seite.
9. Dich kennen oder mögen
Sie schreibt freundlich, weil sie darauf trainiert ist. Sie hat keine Gefühle, keine Meinung und keine Absicht. Bei einer Software, die mitfühlend antwortet, ist das leicht zu vergessen – und bei Menschen, die viel allein sind, nicht ganz ungefährlich.
10. Aus Deinen Hinweisen dauerhaft lernen
Sagst Du ihr, dass sie sich geirrt hat, korrigiert sie sich im laufenden Gespräch. Aber sie wird davon nicht klüger. Im nächsten Gespräch macht sie denselben Fehler wieder. Was bleibt, ist nur das, was in den Erinnerungen hinterlegt ist – und das ist wenig.
11. Schrift in Bildern richtig schreiben
Lass Dir ein Bild mit einer Aufschrift machen, und mit hoher Wahrscheinlichkeit steht dort Kauderwelsch. Für Einladungskarten heißt das: Bild erzeugen lassen, Text selbst darüberschreiben.
12. Urteilen
Keine Diagnose, keine Rechtsauskunft, keine Anlageempfehlung. Sie kann Dir einen Befund in verständliche Worte übersetzen und Dir helfen, die richtigen Fragen aufzuschreiben. Beurteilen muss ein Mensch, der Dich kennt.
Woran Du merkst, dass sie danebenliegt
Es gibt ein paar verlässliche Warnzeichen. Sie sind kein Beweis, aber ein Anlass nachzusehen.
- Ungewöhnlich präzise Zahlen ohne Quelle. Wenn plötzlich 37,4 Prozent dasteht und niemand sagt woher, wird es meist erfunden sein.
- Namen und Titel, die Du noch nie gehört hast. Besonders bei Büchern, Studien und Urteilen.
- Eine Antwort, die zu glatt zu Deiner Frage passt. Wer eine bestimmte Antwort hören will, bekommt sie oft – die Programme neigen dazu, zuzustimmen.
- Ein Datum nach dem Stichtag. Frag einfach: Woher weißt Du das, und von wann ist es?
- Sie wiederholt sich. Oft ein Zeichen, dass sie nichts mehr beizutragen hat und nur noch Sätze füllt.
Der Test, den ich benutze
Stell dieselbe Frage in einem neuen Gespräch noch einmal, mit anderen Worten. Kommt zweimal dasselbe heraus, ist es wahrscheinlich in Ordnung. Kommt zweimal etwas anderes heraus, hat sie geraten.
Und was sie dafür wirklich gut kann
Damit das hier nicht als Abrechnung endet – die andere Seite ist beachtlich, und sie hat mit den zwölf Punkten oben nichts zu tun.
Darauf kannst Du Dich weitgehend verlassen
- Umformulieren. Amtsdeutsch in normales Deutsch, Fachbegriffe in einfache Worte, einen langen Brief in drei Sätze.
- Den ersten Entwurf liefern. Für den Brief, die Rede, die Beschwerde. Das Blatt ist nicht mehr leer, und das ist die halbe Arbeit.
- Erklären. Dreimal hintereinander anders, ohne ungeduldig zu werden. Das schafft kein Mensch.
- Übersetzen. Zwischen Sprachen und zwischen Sprachebenen.
- Ordnen. Aus einem Wust eine Liste machen, Stichworte zu einer Gliederung, eine Tabelle aus einem Absatz.
- Zuhören, ohne müde zu werden. Für Ideen, fürs Nachdenken, fürs Ausprobieren von Formulierungen.
Die Linie, die sich daraus ergibt, ist einfach: Sprache ja, Tatsachen mit Vorsicht, Urteile nein. Wer sich daran hält, hat von diesen Programmen nur Vorteile.
Häufige Fragen
Werden die Programme das nicht bald können?
Manches ja. Das Rechnen und das Nachschlagen werden schon heute an richtige Werkzeuge abgegeben, und das wird besser. Das Grundproblem bleibt aber bestehen: Ein System, das Wahrscheinlichkeiten berechnet, weiß nicht, ob etwas wahr ist. Wer heute lernt nachzuprüfen, hat auch in fünf Jahren nichts verkehrt gemacht.
Gibt es Programme, die weniger erfinden?
Es gibt Unterschiede, aber keines ist frei davon. Programme, die zu jeder Antwort die Quelle mitliefern, machen das Nachprüfen leichter – die Antwort selbst ist damit nicht automatisch richtig.
Wie sage ich ihr, dass sie sich geirrt hat?
Ganz normal: Das stimmt nicht, schau noch einmal nach. Sie nimmt es an und bessert oft nach. Sei aber vorsichtig, wenn sie ohne Widerrede einknickt – manchmal gibt sie Dir nur recht, weil Du widersprochen hast.
Sollte ich ihr überhaupt etwas Wichtiges anvertrauen?
Zum Erklären und Vorbereiten ja, zum Entscheiden nein. Sie macht Dich zu einem besser vorbereiteten Menschen beim Arzt, beim Anwalt, bei der Behörde. Ersetzen kann sie keinen von dreien.
Neun Sätze, die man ständig hört
Was davon stimmt und was nicht: Hört sie mit? Denkt sie wie ein Mensch? Macht sie einen dumm? Werden meine Daten verkauft? Mythen über Künstliche Intelligenz
Quellen
- Eigene Versuche mit ChatGPT, Gemini und Claude zwischen Mai und September 2026.
- Die Bezeichnung Halluzination für frei erfundene Angaben ist in der Fachliteratur seit Jahren gebräuchlich und wird von den Anbietern selbst in ihren Hilfeseiten verwendet.
- Bundesamt für Sicherheit in der Informationstechnik: Hinweise für Verbraucherinnen und Verbraucher zu Künstlicher Intelligenz.
Die Beispiele auf dieser Seite habe ich selbst nachgestellt. Einzelne Programme verhalten sich unterschiedlich, das Grundmuster ist bei allen dasselbe.
Alle Beispiele auf dieser Seite habe ich selbst nachgestellt. Inhalt auf Richtigkeit überprüft am 27. September 2026.