Typische Stolperfallen

1. Was sind Halluzinationen und woran erkennst du sie?

Unter einer Halluzination versteht man bei künstlicher Intelligenz das Phänomen, dass das Modell frei erfundene Informationen, Fakten oder Zitate generiert – und diese mit absoluter Überzeugung als Wahrheiten präsentiert.

Warum das passiert:

Sprachmodelle arbeiten rein auf Basis von Statistik und Wahrscheinlichkeiten. Sie ermitteln Wort für Wort, welcher Textbaustein am besten als Nächstes passt – sie besitzen jedoch kein eigenes Bewusstsein und kein echtes Verständnis für Fakten.

Woran du Halluzinationen erkennst:

• Sehr spezifische Details ohne Quellen: Wenn die KI extrem detaillierte Jahreszahlen, Paragraphen, Buchtitel oder Zitate nennt, die dir ungewöhnlich vorkommen.
• Erfundene Links oder Pfade: Webadressen oder Verweise auf Studien, die gar nicht existieren oder ins Leere führen.
• Souveräner Tonfall trotz Falschinformation: Die KI zweifelt selten an ihren eigenen Aussagen. Auch völliger Unsinn wird oft im gewohnt kompetenten und professionellen Ton präsentiert.

2. Warum solltest du KI-Antworten nicht blind vertrauen?

Sprachmodelle klingen nahezu immer eloquent, freundlich und absolut sicher. Genau diese sprachliche Perfektion verleitet uns schnell dazu, eine sogenannte„Automation Bias“ zu entwickeln: Wir vertrauen den Antworten der KI blind und schalten unsere eigene Skepsis ab.

Die Risiken von blindem Vertrauen:

Besonders bei folgenschweren oder sensiblen Themen – wie rechtlichen Beratungen, medizinischen Ratschlägen, finanziellen Entscheidungen oder sicherheitsrelevantem Code – kann eine falsche Angabe schwerwiegende Konsequenzen haben. Die KI übernimmt keinerlei Haftung für die Richtigkeit ihrer Ausgaben.

Grundregel für den Alltag:

Nutze die KI als inspirierenden Sparringspartner, Entwurfs-Helfer oder Ideengeber – aberniemals als finale, alleinige Instanz für Entscheidungsfindungen oder faktenkritische Aufgaben. Die Verantwortung für das Endergebnis liegt immer beim Menschen.

3. Warum liefert KI manchmal veraltete oder falsche Informationen?

Künstliche Intelligenzen greifen auf zwei Wissensquellen zurück: ihr fest trainiertes Hintergrundwissen (Trainingsdaten) und gegebenenfalls eine Live-Websuche. Dennoch kommt es regelmäßig zu veralteten oder schlicht falschen Informationen.

Warum KI-Wissen veralten kann:

• Cut-off-Dates: Das Kernwissen eines Modells wird zu einem bestimmten Zeitpunkt eingefroren. Ereignisse, Gesetzesänderungen oder Entwicklungen nach diesem Datum sind im Basismodell nicht enthalten.
• Unvollständige Websuche: Selbst wenn die KI das Internet durchsuchen kann, erfasst sie nicht immer die aktuellste oder verlässlichste Quelle, sondern stützt sich oft auf die ersten oder prägnantesten Treffer.
• Fehlerhafte Trainingsdaten: Das Internet enthält Falschinformationen. Wenn diese in den Trainingsdaten der KI vorhanden waren, kann die KI diese Fehler unkritisch reproduzieren.

4. Wie du Antworten gegenprüfst

Um KI-generierte Inhalte sicher zu nutzen, solltest du dir ein paar einfache Gewohnheiten zur Verifizierung aneignen:

• Quellen einfordern: Aufforderungen im Prompt wie „Liefere mir zu dieser Aussage konkrete, auffindbare Quellen oder Links“oder „Nenne mir die Rechtsgrundlage/Studie, auf die du dich beziehst“ zwingen die KI zur Offenlegung ihrer Basis.
• Die Zwei-Quellen-Regel anwenden: Prüfe wichtige Fakten, Zahlen oder Zitate immer über eine unabhängige Suchmaschine (z. B. Google) bei einer etablierten Fachquelle, einer offiziellen Behördenwebsite oder in Fachliteratur nach.
• Gegen-Prompting nutzen (Skeptiker-Rolle): Lass die KI ihre eigene Antwort kritisch hinterfragen. Beispielsweise mit dem Prompt:„Welche Aussagen in deiner vorherigen Antwort könnten ungenau oder veraltet sein? Wo solltest du mir empfehlen, noch einmal genauer nachzuprüfen?“
• Gliedern in Entwurf und Fakten-Check: Lass dir von der KI komplexe Texte strukturieren und formulieren, trage jedoch alle harten Daten, Namen und Zahlen manuell nach oder gleiche sie gründlich ab.