Espresso · 27 Sekunden · Untertitel im Bild
Folge 04 · KI klug nutzen
KI ist keine Suchmaschine
Chatbots klingen sicher, auch wenn sie falsch liegen. Warum eine Quelle mehr zählt als eine gute Formulierung.
Erschienen am 3. November 2026 · Video: Espresso, 27 s · Filterkaffee: 3 Min. Lesezeit
Kurz gesagt
In den USA wurden zwei Anwälte und ihre Kanzlei sanktioniert, weil ihre Schriftsätze Urteile zitierten, die ChatGPT erfunden hatte.
Mata v. Avianca, laut American Bar Association
- Plattform
OpenAI schreibt selbst, dass ChatGPT sicher klingen kann, auch wenn es falsch liegt.
Hinweis des Anbieters, OpenAI Help Center
- Empfehlung
Nach Quellen fragen und die Quelle selbst öffnen.
auch von OpenAI empfohlen
- Empfehlung
Keine Quelle, kein Fakt.
Keine Rechtsberatung.
Der Fall aus New York
An attorney used ChatGPT to assist with legal research and submitted court filings containing fabricated cases and citations.
Im Verfahren Mata v. Avianca reichte eine New Yorker Kanzlei Schriftsätze ein, die Urteile zitierten, die es nicht gab. Am 22. Juni 2023 sanktionierte ein Bundesrichter zwei Anwälte und ihre Kanzlei.
Die Angaben stammen aus der Darstellung der American Bar Association und aus Zitaten anderer Gerichte. Die Entscheidung selbst konnte ich wegen Zugriffssperren nicht im Original lesen.
Warum Chatbots so überzeugt danebenliegen
Sometimes, it might sound confident—even when it’s wrong.
Laut OpenAI antwortet ChatGPT auf Grundlage von Mustern in seinen Trainingsdaten. Eine Antwort kann deshalb flüssig und sicher klingen und trotzdem falsch sein.
OpenAI nennt als Beispiele ausdrücklich erfundene Zitate, Studien und Quellen.
PlattformHinweis des Anbieters
Auch mit Websuche: die Quelle öffnen
Use available tools like search or deep research and check sources when accuracy matters by visiting links directly.
Viele Chatbots können inzwischen im Netz suchen und Quellen nennen. Das hilft, ersetzt aber nicht den Blick in die Quelle selbst.
Empfehlung
Zum Mitnehmen
Checkliste
- Bei Fakten, Zahlen und Zitaten nach der Quelle fragen.
- Die Quelle öffnen und die Aussage dort wiederfinden.
- Findet sich keine Quelle: die Aussage nicht verwenden.
- KI-Antworten als Entwurf behandeln, nicht als Ergebnis.
Transkript des Videosanzeigen
Ein Anwalt in New York zitierte vor Gericht Urteile, die ChatGPT erfunden hatte.
Chatbots klingen sicher, auch wenn sie falsch liegen. Das schreibt sogar der Anbieter selbst.
Darum: nach Quellen fragen. Und die Quelle selbst öffnen.
Merk dir: Keine Quelle, kein Fakt.
Hat dir eine KI schon mal was erfunden? Schreib's unten in die Kommentare!
Quellen
- OpenAI Help Center: Does ChatGPT tell the truth?
- American Bar Association: Appeal, Unheard – The Limits of Appellate Scrutiny in the Age of AI
Geprüft am 9. Oktober 2026 gegen die Originalseiten von OpenAI und der American Bar Association. Die Gerichtsentscheidung selbst war wegen Zugriffssperren nicht abrufbar. Ändert sich etwas Wesentliches, gibt es einen „Zweiten Aufguss“ und einen Hinweis auf dieser Seite.
Mit KI gebrüht: Die Stimme ist eine KI-Stimme von ElevenLabs, Musik und Geräusche sind mit KI erzeugt, die Animation stammt aus meinem eigenen Studio. Die Aussagen habe ich selbst geprüft.