Warum KI-Ausgaben manchmal falsch sind
Sprachmodelle sagen das nächste Wort voraus. Sie erzeugen flüssigen Text, auch wenn die Fakten nicht stimmen, das nennt man Halluzination.
Ein Modell kennt keine Wahrheit, nur Wahrscheinlichkeiten aus Trainingsdaten; fehlt eine Information, füllt es die Lücke plausibel, aber vielleicht falsch. Beispiel: Nach einem Aktenzeichen gefragt, ‚erfindet’ es eines, das echt aussieht.
Einzelne Beispiele gelingen fast immer; erst im Dauerbetrieb mit vielfältigen Eingaben zeigen sich die Schwankungen. Beispiel: Die Vorführung mit drei sauberen Anfragen klappt, der Posteingang mit tausend krummen Formulierungen nicht.
Nicht das Modell allein entscheiden lassen: Ein fester Prüfschritt kontrolliert jede Ausgabe gegen Regeln, bevor sie herausgeht. Wie das Vier-Augen-Prinzip, nur automatisch.
So wenden wir das in Ihrem Projekt an: geprüft, nachvollziehbar, in Deutschland betrieben.
Frage zu Ihrem Fall?
15 Minuten, unverbindlich. Wir sagen ehrlich, ob und wie es geht.
