Von KI erstellter „Nichtigkeitsfall“ vom Gericht abgewiesenBorns IT- und Windows-Blogs

Heute gibt es wieder einen kleinen Episodenbericht zum KI-Wahnsinn. Ein österreichisches Gericht hat eine Nichtigkeitsklage offiziell abgewiesen, weil die Grundlage des Falles von einer KI zusammengestellt wurde, die viele Urteile erfunden hat.

Risiko durch von LLM erstellte Inhalte

Large Language Models (LLM), allgemein als KI oder KI-Lösungen bezeichnet, können bei richtiger Anwendung durchaus hilfreich sein. Beispielsweise erhalte ich eine ordnungsgemäße Funktionsunterstützung für Übersetzungen, kann die Ergebnisse aber später überprüfen. Aber ich habe hier im Blog deutlich gewarnt und öfter über das Problem berichtet, wenn KI-Lösungen unüberlegt eingesetzt werden. Es gibt „Stay Away: The Google AI Search Results Disaster!“, in dem ich erkläre, warum ich jetzt dazu übergegangen bin, die Google AI Search Results auszublenden, weil sie die Leute regelmäßig „täuschen“.

Es ist bekannt, dass Anwälte, insbesondere in den USA, ihre Schriftsätze gerne mithilfe von KI-Lösungen formulieren. Dort wurden Anwälte bereits von Gerichten bestraft, weil in ihren KI-generierten Zusammenfassungen lediglich erfundene, also halluzinatorische Urteile aufgeführt wurden. Noch problematischer ist, dass sich auch US-Richter auf KI verlassen und es KI-basierte „falsche Verurteilungen“ gegeben hat, die nicht einfach aufgehoben werden können. Ich habe im Artikel „Technische Hypotheken: Sollte die KI-Revolution scheitern?“ geschrieben. – Teil 2 hat auf dieses Problem hingewiesen.

Die von AI eingereichte Nichtigkeitsklage wird abgewiesen

In Österreich wurde nun eine Anwaltsausschlussklage vom Obersten Gerichtshof (OGH) abgewiesen, da sie eindeutig von einer KI erstellt wurde. Ein Blog-Leser hat mich auf den Fall hingewiesen (danke dafür), den der ORF Steiermark in diesem Artikel aufbereitet hat.

Dabei ging es um einen Kriminalfall, in dem unter anderem eine Person wegen Drogenhandels vor dem Strafgericht Graz angeklagt wurde. Der Anwalt dieser Person wollte vor der nächsten Instanz eine sogenannte Nichtigkeitsklage einreichen und Berufung einlegen.

Bei der Prüfung der eingereichten Zusammenfassung stellten die Richter des Obersten Gerichtshofs (OGH) fest, dass diese wahrscheinlich von einer KI ohne jegliche technische Kontrolle erstellt wurde. Die Nichtigkeitsklage bezog sich auf Urteile des Obersten Gerichtshofs, die es nie gab. Das Gericht sprach von zahlreichen falschen Zitaten in dem Schriftsatz, ein Problem, das in der juristischen Korrespondenz in den USA bereits bekannt sei.

Der Oberste Gerichtshof lehnte die Nichtigkeitsklage ab und begründete dies wie folgt: „Der Grundvortrag, der mit zahlreichen fehlerhaften Verweisen (einerseits auf angebliche Verfahrensergebnisse, andererseits auf weitgehend nicht existierende Entscheidungen des Obersten Gerichtshofs oder zumindest nicht zum genannten Sachverhalt) durchsetzt ist und der offensichtlich durch künstliche Intelligenz ohne jede technische Kontrolle erstellt wurde (…), benennt die Ungültigkeitsgründe klar, d an den Obersten Gerichtshof als oberstes Gericht (…) (…) reicht nicht annähernd heran und vermeidet daher eine inhaltliche Antwort.“

Diese Antwort war klar: Wenn ich mir ansehe, wie unkritisch die schrecklichsten Teile der KI akzeptiert werden, bin ich einer ganz anderen Meinung. Bis die Leute in den Entscheidungspositionen aufwachen, wird es noch eine Pause geben.

Ähnliche Artikel:
KI-Wahnsinn Teil 1: Wenn ChaptGPT, Copilot & Co. Sie an falsche Orte locken
AI Madness Teil 2: Amazon sendet Perplexity AI eine Unterlassungserklärung zum Kauf über Comet
KI-Wahnsinn Teil 3: Von der KI geschaffene „Nichtigkeitsklage“ vom Gericht abgewiesen

Ähnliche Artikel:
Perplexity Comet Browser Prompt Injection stellt ein großes Sicherheitsrisiko dar
Microsoft: Wenn die KI-Übersetzung scheitert und die Deutsche Bahn ins Spiel kommt – Teil 1
Technische Hypotheken: Muss die KI-Revolution scheitern? – Teil 2
Sicherheit: Schwachstellen im KI-Browser und im Copiloten
Vivaldi stellt sich gegen KI-Agenten
Bleiben Sie dran: Die KI-Suchergebnisse von Google sind eine Katastrophe!
Katastrophe: KI-Anbieter für Sicherheitsvorfälle localmind.ai – Teil 1

Dieser Eintrag wurde unter KI abgelegt und mit KI, Recht verschlagwortet. Link für immer ausführen.