Halluzination (KI)
Als Halluzination wird bezeichnet, wenn ein KI-System Inhalte erzeugt, die plausibel formuliert, aber sachlich unzutreffend sind, im juristischen Kontext insbesondere erfundene Entscheidungen, unrichtige Fundstellen und nicht existierende Gesetzesbestimmungen.
Die Erscheinung folgt aus der Funktionsweise von Sprachmodellen, die Texte anhand statistischer Wahrscheinlichkeiten fortsetzen und nicht auf eine Datenbank zugreifen. Sie lässt sich verringern, aber nicht ausschließen.
Haftungsrechtlich ist die Zurechnung eindeutig. Der Rechtsanwalt schuldet die Sorgfalt eines Sachverständigen und hat für die Richtigkeit seiner Angaben einzustehen. Die Verwendung eines fehlerhaften Werkzeugs entlastet ihn ebenso wenig wie ein Fehler einer Kanzleikraft.
In mehreren Rechtsordnungen sind Gerichte auf Schriftsätze mit erfundenen Zitaten gestoßen und haben mit Sanktionen reagiert. Jede Fundstelle ist daher vor Verwendung an der Primärquelle zu überprüfen.