So prüfst du, was KI dir sagt

Das lernst du

• Was eine Halluzination ist und warum sie entsteht
• Welche Teile einer Antwort du zuerst prüfen solltest: Namen, Zahlen, Datumsangaben, Zitate und Links
• Wie du nach Quellen fragst und sie dann selbst prüfst
• Wie du Fakten von den Vermutungen der KI trennst

Die Idee

KI-Tools schreiben flüssige, selbstsichere Texte, ob der Inhalt stimmt oder nicht. Wenn ein Tool etwas erzeugt, das richtig klingt, aber falsch ist, etwa ein Buch, das es nicht gibt, oder ein Zitat, das nie jemand gesagt hat, nennt man das eine Halluzination: eine selbstsichere Ausgabe, die falsch oder erfunden ist. Das passiert, weil das Modell wahrscheinlichen Text vorhersagt. Es lügt nicht, und es weiß nicht, wann es falschliegt.

Du musst nicht jedes Wort prüfen. Prüfe die Teile, die Schaden anrichten würden, wenn sie falsch wären. Namen, Zahlen, Datumsangaben, Zitate und Links sind die üblichen Risikostellen, dazu alles Rechtliche, Medizinische oder Finanzielle. Geh für jeden dieser Punkte zu einer Primärquelle: zum Originaldokument, zur offiziellen Website, zum Gesetz selbst oder zur eigenen Veröffentlichung der Person. Ein Blogbeitrag, der die Aussage wiederholt, zählt nicht als Bestätigung.

Du kannst die KI nach Quellen fragen. Das hilft, ist aber nicht der letzte Schritt. Eine genannte Quelle existiert vielleicht gar nicht, handelt von etwas anderem oder sagt nicht, was die KI behauptet. Öffne sie und such den Satz, der die Aussage stützt. Findest du ihn nicht, behandle die Aussage als unbestätigt.

Bitte die KI zum Schluss, ihre eigene Antwort zu kennzeichnen: Welche Teile stammen aus einer Quelle oder aus dem Material, das du ihr gegeben hast, und welche sind Allgemeinwissen, Vermutungen oder Meinungen? Die Kennzeichnungen stimmen nicht immer, aber sie zeigen dir, wo du zuerst nachsehen solltest.

Beispiel

Eine Kleinunternehmerin fragt:

Bis wann muss ich meine vierteljährliche Umsatzsteuer-Voranmeldung abgeben,
und wie hoch ist der Verspätungszuschlag? Gib mir einen Link zur offiziellen
Regelung.

Die Antwort nennt ein Datum, einen Zuschlag und einen Link, und sie liest sich gut. Die Unternehmerin prüft jeden Teil:

• Der Link öffnet eine Seite auf der Website des Finanzamts, aber dort geht es um ein anderes Formular.
• Die eigene Seite des Finanzamts zu ihrer Voranmeldung nennt für ihre Region eine andere Frist.
• Der Verspätungszuschlag steht auf keiner offiziellen Seite, die sie finden kann.

Sie fragt nach:

Welche Teile deiner Antwort stammen aus einer Quelle, die du nennen kannst,
und welche sind Allgemeinwissen oder eine Vermutung? Schreib sie in getrennte
Listen.

Die KI verschiebt den Zuschlag in die Liste der Vermutungen. Die Unternehmerin übernimmt die Frist von der offiziellen Seite und ruft wegen des Zuschlags beim Finanzamt an. Die KI hat ihr gezeigt, was sie nachschlagen muss, aber jeder Fakt, nach dem sie gehandelt hat, stammt aus der Primärquelle.

Jetzt üben

1. Stell einem beliebigen KI-Tool eine Faktenfrage zu etwas, das du gut kennst, etwa zu deinem Wohnort, deinem Beruf oder einem Hobby.
2. Bitte es, mindestens zwei Quellen mit Links anzugeben.
3. Unterstreiche jeden Namen, jede Zahl, jedes Datum und jedes Zitat in der Antwort.
4. Öffne jede Quelle und such für jeden unterstrichenen Punkt den genauen Satz, der ihn stützt.
5. Markiere jeden Punkt als bestätigt, falsch oder nicht gefunden.

Am Ende hast du eine kurze Liste von Aussagen mit je einem Status und ein erstes Gefühl dafür, wie gründlich du dieses Tool in deinem Bereich prüfen musst. Für längere Recherchen geht es weiter mit Mit KI recherchieren und Quellenangaben prüfen.

Diese Vorlage kopieren

Beantworte diese Frage: [deine Frage].

Teile deine Antwort dann in drei Listen auf:
1. Fakten mit einer Quelle, die ich prüfen kann. Nenn für jeden Fakt
   den Namen der Quelle und den Link.
2. Allgemeinwissen, das du nicht aus einer bestimmten Quelle hast.
3. Vermutungen, Annahmen oder Meinungen.

Wenn du dir bei einem Namen, einer Zahl, einem Datum oder einem Zitat
nicht sicher bist, schreib das dazu. Erfinde keine Quellen.

Auch wenn du die KI bittest, Unsicherheiten zu kennzeichnen, ist ihre Antwort damit noch nicht richtig. Prüfe weiterhin die Teile, auf die es ankommt.

Das Ergebnis prüfen

• Lässt sich jeder Link öffnen, und ist es die Original- oder die offizielle Seite?
• Sagt die Quelle in ihren eigenen Worten, was die KI behauptet?
• Sind Namen richtig geschrieben, und stimmen Datumsangaben und Zahlen genau mit der Quelle überein?
• Sind Zitate wortgetreu, und stammen sie von der genannten Person?
• Ist die Quelle aktuell genug für deinen Zweck? Achte auf ein Datum auf der Seite.
• Sind Vermutungen klar von Fakten getrennt?

Häufige Fehler

• Nur prüfen, ob ein Link funktioniert. Eine echte Seite kann trotzdem von etwas anderem handeln. Such den Satz, der die Aussage stützt.
• Dieselbe KI fragen, ob sie sicher ist. Sie stimmt vielleicht zu oder ändert ihre Antwort, ohne dass es neue Belege gibt. Prüfe stattdessen eine Primärquelle.
• Einen selbstsicheren Ton für ein Zeichen von Genauigkeit halten. Der Ton sagt nichts darüber, ob etwas stimmt. Beurteile jede Aussage nach ihrer Quelle.
• Alles mit derselben Sorgfalt prüfen. Dafür reicht deine Zeit nicht. Fang mit dem an, was Schaden anrichten würde, wenn es falsch ist: Geld, Gesundheit, rechtliche Punkte und alles, was du veröffentlichst oder verschickst.