Können Sie Ihrem Anwalt oder einem Gutachter noch blind vertrauen, wenn eine KI mitschreibt? Passend zum aktuellen Artikel „Wenn der Algorithmus halluziniert: Die rechtliche Nullnummer bei KI-Urteilen“ (https://kanzlei-kramarz.de/wenn-der-algorithmus-halluziniert-die-rechtliche-nullnummer-bei-ki-urteilen/) von Rechtsanwalt Kramarz beleuchten wir in dieser Episode die komplexen Aspekte von KI-Halluzinationen im Rechtswesen. Gemeinsam erklären wir anschaulich, worauf es bei der Prüfung KI-generierter Inhalte ankommt, um drastische Honorarverluste und prozessuale Nachteile zu vermeiden.
Wir untersuchen die juristischen Konsequenzen, wenn Algorithmen fiktive Urteile erfinden oder Gutachten ohne Eigenleistung erstellen. Beispielsweise zeigen wir auf, wie das LG Darmstadt ein Gutachten mit 0,00 Euro vergütete, weil es typische KI-Muster und Prompt-Fragmente enthielt. In dieser Episode diskutieren wir typische Szenarien, in denen erfundene Aktenzeichen des BGH in Schriftsätzen auftauchen, und zeigen Ihnen Strategien auf, wie Sie durch strenge Qualitätskontrollen die Verwertbarkeit Ihres Vorbringens sichern können. Wir verdeutlichen dabei die Unterschiede zwischen zulässiger KI-Unterstützung und unzulässiger Delegation der Kernleistung sowie die Rolle von Wahrheitspflicht und anwaltlicher Sorgfalt.
Basierend auf den Ausführungen von Rechtsanwalt Kramarz betonen wir, wie wichtig es ist, KI-Ergebnisse niemals ungeprüft zu übernehmen, und warum eine frühzeitige Auseinandersetzung mit digitalen Halluzinationen entscheidend sein kann, um berufsrechtliche Konsequenzen und Reputationsschäden zu verhindern. Verpassen Sie nicht unsere praxisnahen Tipps, die auf dem Fachwissen von Rechtsanwalt Kramarz basieren, wie Sie die „AI-DNA“ in Texten erkennen und rechtssicher agieren können.
Vertiefende Informationen und Beispiele finden Sie im zugehörigen Artikel „Wenn der Algorithmus halluziniert: Die rechtliche Nullnummer bei KI-Urteilen“ auf der Website von Kanzlei Kramarz.
Sie haben Fragen zu KI-Halluzinationen im Recht oder benötigen Unterstützung? Kontaktieren Sie Rechtsanwalt Kramarz für eine individuelle Einschätzung Ihrer Situation.
Transkript der Folge
Rechtsanwalt Kramarz (Intro): Willkommen beim Podcast von Rechtsanwalt Kramarz, Ihrem Experten für IT- und Medienrecht. Informationen und Termine für eine Erstberatung finden Sie direkt auf kanzlei-kramarz.de. Und jetzt geht es sofort los – hier sind Lex und Nova mit dem aktuellen Thema. Viel Spaß beim Zuhören.
Lex: Herzlich willkommen zur heutigen Kanzleibesprechung hier in der Kanzlei Kramarz.
Nova: Hallo zusammen, schön, dass wir diese Runde heute so hinbekommen haben.
Lex: Genau, der Kaffee steht da drüben, mach es dir einfach bequem.
Nova: Ja, bedien dich gerne.
Lex: Schön, dass du dir die Zeit genommen hast, heute hier bei uns am Konferenztisch Platz zu nehmen. Ich bin Lex, und mir gegenüber sitzt meine geschätzte Kollegin Nova.
Nova: Hallo noch mal. Ja, wir haben heute einen wirklich dichten Aktenstapel vor uns liegen.
Lex: Das ist noch milde ausgedrückt, würde ich sagen.
Nova: Definitiv. Das Thema hat uns in den letzten Tagen hier im Haus echt intensiv beschäftigt.
Lex: Und genau deshalb haben wir dich heute als unseren Mandanten zu dieser internen Runde eingeladen. Wir wollen einfach komplett transparent machen, was sich aktuell da draußen in den Gerichtssälen so abspielt.
Nova: Mhm, weil es wichtig ist, das auf dem Schirm zu haben.
Lex: Absolut. Es gibt da nämlich eine Entwicklung in der forensischen Praxis, die für alle Beteiligten zu einem echten Haftungsrisiko herangewachsen ist – für Richter, für Anwälte und eben vor allem für Mandanten.
Nova: Wir sprechen über KI-Halluzinationen vor Gericht.
Lex: Exakt. Wir haben hier auf dem Tisch aktuelle Beschlüsse liegen, vom Amtsgericht Köln über das Oberlandesgericht Celle bis hin zum Verwaltungsgerichtshof Baden-Württemberg. Und dazu noch die Notizen für unseren eigenen Kanzleiblock.
Nova: Der gemeinsame Nenner all dieser Verfahren ist eigentlich immer derselbe: dieser völlig unreflektierte Einsatz von generativer KI durch Prozessbeteiligte.
Lex: Wobei wir da ja nicht von kleinen Tippfehlern reden, oder?
Nova: Wir sprechen von Situationen, in denen die Maschine Aktenzeichen, juristische Fachliteratur und – das ist der Wahnsinn – komplette Urteilsbegründungen schlichtweg erfindet.
Lex: Und Anwälte oder Sachverständige nehmen diese Fiktionen dann und reichen sie als harte Fakten bei Gericht ein.
Nova: Richtig. Und da wir hier am Tisch ja alle wissen, dass Sprachmodelle im Grunde nur Wahrscheinlichkeiten von Wörtern berechnen und keine Fakten prüfen, überspringen wir jetzt mal die technischen Grundlagen, das würde zu weit führen. Viel relevanter für uns heute ist ja, wie sich das in der harten juristischen Praxis niederschlägt.
Lex: Okay, lass uns das mal aufdröseln. Nova, wir sehen in diesen Akten immer wieder, dass die Gerichte diese maschinell erstellten Texte relativ schnell identifizieren.
Nova: Ja, erstaunlich schnell sogar.
Lex: Aber wie manifestiert sich diese – nennen wir sie mal KI-DNA – konkret in einem deutschen Schriftsatz? Ich meine, ein gut trainiertes Modell schreibt ja mittlerweile fehlerfreies Deutsch.
Nova: Das formale Deutsch ist oft fehlerfrei, ja, aber die Struktur ist das, was den Ursprung verrät.
Lex: Okay, wie genau?
Nova: Die Gerichte achten mittlerweile sehr genau auf bestimmte Muster. Generative KI neigt dazu, juristische Sachverhalte extrem repetitiv zusammenzufassen.
Lex: Ah, verstehe.
Nova: Wir sehen dann Schriftsätze, die fast ausschließlich aus aneinandergereihten Hauptsätzen bestehen, die strukturell immer völlig identisch beginnen.
Lex: Also keine richtige Satzmelodie.
Nova: Genau. Und dazu kommt eine eigenartige Glättung der Sprache – juristische Nuancen, dieses typische Abwägen von Argumenten…
Lex: Dieses klassische Einerseits-Andererseits.
Nova: Ganz genau, diese Struktur, die eine gute rechtliche Subsumtion eigentlich ausmacht, die fehlt oft völlig. Die KI liefert stattdessen eine sehr selbstbewusste, aber im Kern extrem flache Behauptung.
Lex: Und garniert das dann mit erfundenen Verweisen.
Nova: Richtig, Verweise auf Datenbanken wie Juris oder Beck-Online. Sie ahmt das Format eines juristischen Kommentars perfekt nach, ohne den Inhalt auch nur ansatzweise zu begreifen.
Lex: Und das bringt uns direkt zu unserem ersten Fall. Der zeigt nämlich auf fast schon tragikomische Weise, was passiert, wenn man sich blind auf diese Technik verlässt.
Nova: Der Fall aus Darmstadt.
Lex: Genau. Wir schauen hier auf einen Beschluss des Landgerichts Darmstadt, Aktenzeichen 19 O 2561. Das war ein Zivilverfahren, und es ging um ein fachärztliches Gutachten auf dem Gebiet der Mund-, Kiefer- und Gesichtschirurgie.
Nova: Ein hochkomplexes Feld, eigentlich, absolut.
Lex: Der beauftragte Sachverständige, ein Herr Professor Doktor A., reichte sein Gutachten ein und liquidierte dafür gegenüber der Staatskasse stolze 2.374,50 Euro.
Nova: Ein ordentlicher Betrag.
Lex: Ja, das Gericht hat ihm allerdings keinen einzigen Cent davon ausgezahlt.
Nova: Weil die Kammer in Darmstadt das Gutachten schlichtweg als prozessual unverwertbar eingestuft hat.
Lex: Was genau ist denen da aufgefallen?
Nova: Zunächst das, was wir gerade besprochen haben: Der Schreibstil war untypisch, voller generischer Floskeln. Und was aus medizinischer Sicht wirklich fatal ist – der Sachverständige hatte die Klägerin offensichtlich nicht ein einziges Mal körperlich untersucht.
Lex: Er hat sie nicht mal gesehen.
Nova: Nein, er hat einfach die vorliegenden Akteninhalte genommen und sie von der KI zusammenfassen lassen.
Lex: Wobei der eigentliche Beweis für den KI-Einsatz ja eher ein handwerklicher Offenbarungseid war, muss man sagen.
Nova: Wo ja?
Lex: Ich musste diesen Absatz im Beschluss echt dreimal lesen. Der Professor hat seinen Text vor dem Einreichen nicht einmal rudimentär redigiert.
Nova: Er hat es einfach kopiert und eingefügt.
Lex: Mitten in den medizinischen Ausführungen fand das Gericht Fragmente seiner eigenen Eingabebefehle an das System.
Nova: Prompts im Fließtext.
Lex: Ja, da stand wörtlich der Satz im Gutachten – Zitat: „Ob der Auftrag des Prompts richtig erfolgt ist?“ Wahnsinn! Und direkt im Anschluss der Satz, dass das Vorgutachten eines Diplomingenieurs B. berücksichtigt werde. Er hat der Maschine also Anweisungen zur Nachbesserung gegeben, und die KI hat diese Befehle einfach stumpf als Fließtext in das finale Dokument gedruckt.
Nova: Und er hat es einfach unterschrieben.
Lex: Was hier wirklich faszinierend ist – und das ist der Moment, in dem es aufhört, amüsant zu sein und rechtlich sehr ernst wird: Wir müssen hier mal kurz auf Paragraf 407a Absatz 3 der Zivilprozessordnung schauen.
Nova: Mhm, die persönliche Leistungspflicht.
Lex: Ganz genau, diese Norm regelt ganz eindeutig die Pflicht zur persönlichen Erstellung eines Gutachtens. Wenn ein Gericht einen Gutachter bestellt, dann tut es das wegen seiner spezifischen menschlichen Expertise und Erfahrung.
Nova: Er darf doch aber Hilfskräfte nutzen, oder?
Lex: Natürlich, er darf sich Hilfskräften bedienen, aber er muss deren Mitarbeit transparent machen. In diesem Fall war für die Kammer aber überhaupt nicht mehr trennbar, welche diagnostischen Schlüsse jetzt vom Arzt und welche von der stochastischen Maschine stammten.
Nova: Und die Konsequenz nach dem Justizvergütungs- und Entschädigungsgesetz ist dann ja völlig logisch, richtig?
Lex: Wenn die persönliche Leistungspflicht verletzt ist, fällt der Vergütungsanspruch komplett weg.
Nova: Die Festsetzung auf exakt 0,00 Euro ist da ein wirklich klares Signal der Justiz. Wer als Experte auftritt und bezahlt werden will, der muss die intellektuelle Arbeit selbst leisten.
Lex: Genau hier liegt der Kern des Problems für die forensische Praxis. Es sind eben nicht nur medizinische Gutachter, die unter Zeitdruck stehen und den bequemen Weg wählen.
Nova: Nee, leider nicht.
Lex: Wir sehen exakt dieselben Muster bei unseren eigenen Berufskollegen, bei ausgebildeten Rechtsanwälten.
Nova: Und hier wird es jetzt richtig interessant. Wir wechseln mal die Perspektive vom Gutachter zum Anwalt.
Lex: Der Fall aus Celle.
Nova: Ja, der Beschluss des Oberlandesgerichts Celle vom April 2025, Aktenzeichen 5 U 125, das ist wirklich so ein Paradebeispiel. Ein Verfahren aus dem Vertragsrecht. Es ging um eine sogenannte Costa-Rica-Masterclass.
Lex: Klingt nach einem teuren Coaching.
Nova: Genau, das war’s – ein umfangreiches Unternehmensberatungsprojekt, Streitwert im sechsstelligen Bereich. Die juristische Kernfrage war, ob es sich bei diesem Coachingvertrag um – Zitat – „Dienste höherer Art“ nach Paragraf 627 des Bürgerlichen Gesetzbuches handelt.
Lex: Ah, okay, weil davon abhängt, ob ein fristloses Kündigungsrecht besteht.
Nova: Exakt. Bei solchen Summen und solch interpretationsbedürftigen Rechtsbegriffen ist der Druck auf die Prozessvertreter natürlich immens. Die müssen überzeugende Präzedenzfälle präsentieren.
Lex: Und die Anwälte der Beklagtenseite haben in ihrer Berufungsbegründung dann scheinbar so richtig aus dem Vollen geschöpft, oder?
Nova: Oh ja. Sie zitierten Entscheidungen des OLG München, des OLG Frankfurt, des OLG Düsseldorf und des OLG Koblenz, alles versehen mit exakten Datumsangaben, Aktenzeichen und angeblichen Fundstellen in renommierten Zeitschriften wie der NJW-RR.
Lex: Der Schriftsatz muss sich auf den ersten Blick hervorragend gelesen haben.
Nova: Die KI hat den Anwälten genau das geliefert, was sie lesen wollten: ein perfektes, maßgeschneidertes Argumentationskonstrukt.
Lex: Das Problem entstand dann erst, als der Senat des OLG Celle im Rahmen der Urteilsfindung diese Entscheidungen im Volltext nachlesen wollte.
Nova: Was ja völlig normal ist. Die Richter haben die Parameter in die üblichen juristischen Datenbanken eingegeben, bei Juris oder Beck-Online.
Lex: Und das Ergebnis?
Nova: Null Treffer. Der Senat stellte fest, dass es sich ausnahmslos um Fehlzitate handelte. Die Maschine hatte die Aktenzeichen, die Daten und die Fundstellen schlichtweg komplett generiert.
Lex: Einfach erfunden.
Nova: Ja. Ein klassischer Fall von Syllogismus-Mimikry.
Lex: Das musst du vielleicht kurz erklären.
Nova: Gerne. Die KI weiß aus ihren Trainingsdaten sehr genau, wie ein Verweis auf die NJW-RR formell aussehen muss. Sie fügt logisch klingende Zahlenfolgen ein, das sieht alles täuschend echt aus. Aber das referenzierte Urteil existiert in der physischen Realität einfach nicht.
Lex: Und die anwaltliche Vertretung hat diese digitalen Luftschlösser dem Oberlandesgericht präsentiert, ohne sie auch nur ein einziges Mal selbst in der Datenbank verifiziert zu haben.
Nova: Was eigentlich ein unfassbarer Anfängerfehler ist.
Lex: Ja, und was mich an dieser Stelle am meisten beschäftigt, ist die Frage der Qualitätssicherung in diesen Kanzleien. Ich habe mir den Beschluss des Landgerichts Frankfurt aus dem September 2025, Aktenzeichen 2-13 S 6404, mal sehr genau angesehen.
Nova: Das war der Fall mit den BGH-Entscheidungen, richtig.
Lex: Genau. Ein Klägeranwalt hat hier in einem wohnungseigentumsrechtlichen Verfahren zur Untermauerung seiner Rechtsauffassung zum Streitwert gleich drei angebliche Entscheidungen des Bundesgerichtshofs zitiert.
Nova: Und zwar wörtlich, oder?
Lex: Ja, sogar als wörtliche Zitate in Anführungszeichen.
Nova: Ein sehr aufschlussreicher Fall. Woran ist das Gericht in Frankfurt da eigentlich stutzig geworden?
Lex: An einem handwerklichen Fehler, der jedem Juristen eigentlich schon im ersten Berufsjahr auffallen muss. Die KI hatte diesen drei BGH-Entscheidungen sogenannte ZB-Aktenzeichen verpasst.
Nova: ZB steht beim BGH ja für Zivilbeschwerdesachen.
Lex: Richtig, der Anwalt wollte damit aber eine Streitwertentscheidung belegen. Das Gerichtskostengesetz schließt in Paragraf 66 Absatz 3 aber die Zuständigkeit des BGH für reine Streitwertbeschwerden explizit aus.
Nova: Das heißt, der Bundesgerichtshof entscheidet über so etwas in diesem Rahmen gar nicht.
Lex: Genau. Die KI hat einfach das Kürzel ZB mit dem Begriff Beschwerde assoziiert und daraus munter ein Aktenzeichen gebastelt. Ein Anwalt, der diesen Text liest, hätte sofort die logische Diskrepanz erkennen müssen. Eine BGH-Entscheidung mit einem ZB-Aktenzeichen zu diesem isolierten Streitwertthema kann juristisch gar nicht existieren.
Nova: Interessant ist hierbei ja auch die Reaktion des Kollegen, nachdem das Gericht ihn auf diese Diskrepanz hingewiesen hatte.
Lex: Ja, er ruderte dann ziemlich ungelenkt zurück.
Nova: Er behauptete, die in Anführungszeichen gesetzten Textstellen seien nur versehentlich als wörtliche BGH-Zitate gekennzeichnet worden. Eigentlich habe es sich nur um eine zusammenfassende Wiedergabe der höchstrichterlichen Linie handeln sollen.
Lex: Eine klassische Schutzbehauptung. Die hat das Landgericht Frankfurt erwartungsgemäß auch direkt zerpflückt. Ein wörtliches Zitat mit exakter Fundstelle suggeriert dem Gericht harte Authentizität. Das ist keine zusammenfassende Interpretation, sondern der plumpe Versuch, eine Autorität zu simulieren, die es nicht gibt.
Nova: Wenn wir das mit dem Gesamtbild verknüpfen, berühren wir eigentlich den kritischsten Punkt unserer heutigen Besprechung: den Vertrauensschutz. Unser gesamtes Justizsystem basiert auf der Prämisse, dass die Organe der Rechtspflege, also wir Anwälte, bei der Wahrheit bleiben. Wenn ein Gericht jedem zitierten Urteil erst einmal mit tiefem Misstrauen begegnen und in den Datenbanken nachforschen muss, ob es das überhaupt gibt, dann bricht die Effizienz der Rechtsprechung zusammen.
Lex: Wie ernst die Justiz das mittlerweile nimmt, zeigt der Beschluss des Amtsgerichts Köln vom Juli 2025.
Nova: Oh ja, das war heftig.
Lex: Das war ein Verfahren im Familienrecht, Aktenzeichen 312 F 13025. Es ging um ein hochsensibles Thema: Umgangsrecht. Ein Vater wollte das Wechselmodell einklagen.
Nova: Und sein Anwalt hat da richtig Mist gebaut.
Lex: Kann man so sagen. Sein Anwalt reicht einen Schriftsatz ein, der Literaturverweise enthält, die so spezifisch und gleichzeitig so falsch sind, dass es beim Lesen fast wehtut. Die KI hat hier einen fiktiven Kommentar eines Herrn Fiefös im Münchener Kommentar einfach frei erfunden.
Nova: Den gibt es da nicht.
Lex: Und dazu noch einen Aufsatz aus der Zeitschrift für Familienrecht, der FamRB, aus dem Jahr 2015 zitiert, den es ebenfalls nie gab, inklusive erfundener Randnummern.
Nova: Das Amtsgericht Köln hat daraufhin sehr deutliche Worte gefunden und direkt eine Brücke zum Berufsrecht geschlagen. Das Einreichen solcher Schriftsätze ist ein massiver Verstoß gegen die prozessuale Wahrheitspflicht nach Paragraf 43a Absatz 3 der Bundesrechtsanwaltsordnung.
Lex: Ganz genau.
Nova: Als Anwalt darf ich nicht wissentlich Unwahrheiten verbreiten. Das Gericht stellte unmissverständlich klar: Wer Texte ungeprüft aus generativen KI-Systemen übernimmt, handelt zumindest bedingt vorsätzlich in Bezug auf mögliche Unwahrheiten.
Lex: Und die Konsequenz war hier nicht nur so ein kleiner Rüffel. Das Gericht hat die Androhung eines Ordnungsgeldes von bis zu 25.000 Euro oder bis zu sechs Monaten Ordnungshaft in den Raum gestellt.
Nova: Das ist eine Dimension, die absolut existenzgefährdend für eine Kanzlei sein kann.
Lex: Und es schadet vor allem wem? Dem Mandanten. Die Glaubwürdigkeit dieses Vaters in diesem familienrechtlichen Verfahren war durch den Schriftsatz seines eigenen Anwalts extrem schwer beschädigt worden.
Nova: Ja, leider.
Lex: Aber lass uns noch einen Blick auf ein anderes Phänomen werfen. Es geht nämlich nicht immer nur um halluzinierte Urteile. Manchmal nutzen Kanzleien KI auch einfach, um massenhaft Standardschriftsätze zu generieren, ohne überhaupt auf den konkreten Fall einzugehen.
Nova: Das Kammergericht Berlin, richtig.
Lex: Das Kammergericht Berlin hat dazu im August 2025, Aktenzeichen 3 ORbs 16/425, einen Beschluss gefasst, den sie wunderbar als „dysfunktionale Verteidigung“ betitelt haben.
Nova: Ein Begriff, der die Situation wirklich perfekt zusammenfasst. Das war ein Bußgeldverfahren. Der Vorwurf lautete schlicht: Handy am Steuer, ein Verstoß nach Paragraf 23 Absatz 1a der Straßenverkehrsordnung.
Lex: Ein Standardticket eigentlich.
Nova: Eigentlich schon. Der Verteidiger hat das Verfahren aber offensichtlich komplett automatisiert abwickeln lassen von seiner Software. Er reichte fortlaufend Schriftsätze ein, die aus Textbausteinen bestanden, die sich detailliert mit den Fehlerquellen von Geschwindigkeitsmessgeräten auseinandersetzten.
Lex: Das muss man sich mal auf der Zunge zergehen lassen. Es wurden also Messprotokolle angefordert und technische Toleranzen von Blitzern gerügt, in einem Fall, in dem es nur darum ging, ob jemand ein Smartphone in der Hand hielt.
Nova: Der Verteidiger hat den echten Tatvorwurf über Instanzen hinweg nicht ein einziges Mal inhaltlich adressiert. Das Kammergericht hat dem Anwalt dann bescheinigt, dass diese Form der automatisierten Prozessführung sinnentleert und prozessual schädlich ist.
Lex: Wir sehen diese Effekte der Automatisierung auch sehr stark im Verwaltungsrecht, oder?
Nova: Ja, definitiv. Der Verwaltungsgerichtshof Baden-Württemberg rügte da kürzlich in einem Baugenehmigungsverfahren eine Vielzahl – wie sie es nannten – nicht auffindbarer Entscheidungen im Schriftsatz der Kläger.
Lex: Und dann war da noch das VG Köln.
Nova: Genau, noch prägnanter war dieser Fall vor dem Verwaltungsgericht Köln. Hier hatte ein amtierendes Stadtratsmitglied einen Eilantrag auf Akteneinsicht gestellt. Zur Begründung nutzte dieses Ratsmitglied völlig ungeprüft Ergebnisse einer KI-Recherche, die rechtlich einfach völlig abwegig waren.
Lex: Das VG Köln hat hier einen sehr interessanten Hebel angesetzt. Sie haben das Ratsmitglied auf seine Pflicht zur Organtreue hingewiesen.
Nova: Ein sehr treffendes Konzept aus dem Verwaltungsrecht. Um das für dich kurz greifbar zu machen: Organtreue bedeutet, dass Mitglieder eines Gremiums, wie eben ein Stadtrat oder auch ein Aufsichtsrat, eine gegenseitige Rücksichtnahme- und Treuepflicht haben. Okay, stell dir das so vor: Du sitzt im Vorstand eines Unternehmens, und ein Kollege präsentiert in einer Krisensitzung einen von einer KI frei erfundenen desaströsen Finanzbericht, nur um eine bestimmte Entscheidung zu erzwingen.
Lex: Das würde das komplette Meeting sprengen.
Nova: Genau, er stiehlt dem Gremium wertvolle Zeit, zerstört das Vertrauen und torpediert die Arbeitsfähigkeit des gesamten Organs. Genau das macht man, wenn man in einem Organstreitverfahren halluzinierte Rechtsquellen einbringt. Man verletzt seine organschaftlichen Pflichten gegenüber der Institution.
Lex: Also, was bedeutet das alles für die Praxis? Wenn wir all diese Akten von Darmstadt über Celle bis nach Köln mal zusammenlegen, dann zeichnet sich ein sehr klares Bild ab.
Nova: Die Gerichte sind aus der anfänglichen Überraschungsphase definitiv heraus.
Lex: Ja, Richterinnen und Richter sind inzwischen extrem sensibilisiert. Sie erkennen die KI-DNA, sie prüfen Zitate heute routinemäßig nach, und sie sanktionieren den ungeprüften Einsatz dieser Werkzeuge hart. Der Vertrauensschutz für anwaltliche Schriftsätze ist exakt in dem Moment verwirkt, in dem das Gericht das allererste erfundene Aktenzeichen entdeckt.
Nova: Das ist der entscheidende Punkt. Weißt du, die Technologie an sich ist ja gar nicht das Problem. Sprachmodelle sind exzellente Werkzeuge, um große Textmengen zu strukturieren oder vielleicht erste Entwürfe zu gliedern.
Lex: Wir nutzen sie ja selbst für bestimmte Recherchen.
Nova: Richtig, aber sie ersetzen eben nicht die juristische Handwerkskunst. Die Verantwortung für die Richtigkeit der rechtlichen Subsumtion und für die Existenz der zitierten Belege bleibt immer ausnahmslos bei demjenigen, der den Schriftsatz am Ende unterschreibt.
Lex: Und das bringt uns zum wichtigsten Teil unserer heutigen Kanzleibesprechung. Und damit richte ich mich jetzt direkt an dich, unseren Mandanten hier am Tisch. Du beauftragst uns, weil du ein handfestes rechtliches Problem hast, das gelöst werden muss.
Nova: Und wir wissen natürlich, dass anwaltliche Vertretung teuer ist. Wir kennen den Druck, Kosten zu optimieren.
Lex: Absolut. Und in letzter Zeit erleben wir es gelegentlich, dass Mandanten sehr engagiert sind und uns Entwürfe für Schriftsätze oder strategische Memos schicken, die sie vorher selbst durch ChatGPT oder ähnliche Systeme gejagt haben.
Nova: Die Intention dahinter verstehen wir vollkommen. Die Idee ist ja: Wenn ich dem Anwalt schon einen fertigen Rohentwurf liefere, spart das seine Zeit und damit mein Honorar.
Lex: In der Praxis passiert leider genau das Gegenteil. Es ist absolut nicht notwendig, und wir raten wirklich dringend davon ab, dass du als Mandant der Kanzlei Kramarz selbst KI-generierte Vorschläge für rechtliche Strategien einreichst.
Nova: Das macht es wirklich nicht einfacher.
Lex: Wenn du uns ein 20-seitiges KI-Memo auf den Tisch legst, können wir das nicht einfach überfliegen und eins zu eins übernehmen. Aufgrund unserer berufsrechtlichen Haftung müssen wir jede einzelne Behauptung, jedes zitierte Urteil und jede hergeleitete Randnummer extrem aufwendig auf Halluzinationen überprüfen.
Nova: Wir verbringen dann Stunden damit, die versteckten Fehler und erfundenen Zitate herauszufinden.
Lex: Das dauert wesentlich länger, als den Schriftsatz auf Basis deiner Sachverhaltsschilderung direkt selbst rechtlich fundiert aufzubauen. Am Ende führt dieser eigentlich gut gemeinte Vorstoß nur zu Mehrarbeit auf unserer Seite.
Nova: Und damit unweigerlich zu höheren Kosten für dich.
Lex: Juristische Arbeit in diesem Stadium sollte man echten Spezialisten überlassen und keiner hirnlosen stochastischen Maschine. Wir wollen deinen Fall gewinnen, und das geht nur mit wasserdichter, hundertprozentig überprüfter Argumentation.
Nova: Dem stimme ich voll zu. Qualitätssicherung ist in diesem Bereich unser oberstes Gebot. Wir nutzen Technologie da, wo sie sinnvoll ist, aber die letzte Kontrolle liegt immer beim menschlichen Anwalt.
Lex: Genau.
Nova: Bevor wir dieses Meeting für heute beenden, möchte ich dir jedoch noch einen Gedanken mit auf den Heimweg geben, über den man in Ruhe nachdenken kann. Das wirft nämlich eine wichtige Frage auf. Wir haben heute intensiv über die Schwächen und die Fehler der aktuellen KI-Modelle gesprochen, über die offensichtliche KI-DNA, die halluzinierten Aktenzeichen und die mangelnde Logik. Aber die Entwicklungszyklen dieser Modelle werden ja immer kürzer. Was passiert eigentlich in drei, fünf oder zehn Jahren?
Lex: Wenn sie besser werden.
Nova: Was, wenn die Systeme aufhören zu halluzinieren? Wenn sie Zugriff auf alle geschlossenen Datenbanken haben, keine dummen Logikfehler mehr machen und juristisch absolut brillante, messerscharfe Schriftsätze verfassen, die sich stilistisch nicht mehr von der Arbeit eines echten Prädikatsjuristen unterscheiden? Ohne jede erkennbare KI-DNA?
Lex: Das ist eine gute Frage.
Nova: Werden die Richter dann überhaupt noch erkennen, ob ein Mensch oder eine Maschine zu ihnen spricht? Und das ist die eigentliche juristische und auch philosophische Frage: Wird es für das Urteil dann überhaupt noch eine Rolle spielen, wer den Text verfasst hat, solange das Recht einfach perfekt und fehlerfrei angewendet wurde?
Lex: Das ist in der Tat eine Perspektive, die unser gesamtes Berufsbild irgendwann infrage stellen könnte. Aber bis wir an diesem Punkt angelangt sind, verlassen wir uns hier in der Kanzlei Kramarz weiterhin auf die menschliche Urteilskraft und auf gründliche juristische Handwerksarbeit.
Nova: Darauf kannst du dich verlassen.
Lex: Vielen Dank, Nova, für die gemeinsame Analyse dieser Akten. Und vor allem vielen Dank an dich, dass du dir die Zeit für diese Kanzleibesprechung genommen hast. Wir kümmern uns jetzt weiter um deinen Fall: präzise, verlässlich und garantiert ohne Halluzinationen. Bis zum nächsten Mal.
Nova: Vielen Dank für den Austausch. Bis zum nächsten Mal.
Rechtsanwalt Kramarz (Outro): So, das war es von Lex und Nova für diese Folge. Wir hoffen, Sie konnten heute wieder etwas schlauer werden, ohne dabei einzuschlafen. Und bevor Sie nun Ihre neu gewonnenen Erkenntnisse anwenden, hier kommt noch etwas Wichtiges: Ich unterstütze Mandanten sowohl in Darmstadt als auch bundesweit in vielfältigen rechtlichen Fragestellungen. Wenn Sie zu dem Thema dieser Podcast-Episode Beratungsbedarf haben oder eine allgemeine Rechtsfrage besteht, lade ich Sie herzlich ein, mit mir in Kontakt zu treten. Sie erreichen mich telefonisch unter 06151 2768227. Falls Sie mich nicht direkt persönlich erreichen, hinterlassen Sie mir Ihre Anfrage, ich melde mich. Selbstverständlich können Sie mir Ihr Anliegen auch jederzeit per E-Mail an anfrage@kanzlei-kramarz.de senden. Umfassende Informationen über meine Kanzlei und meine Rechtsgebiete finden Sie auf meiner Webseite unter www.kanzlei-kramarz.de. Ich freue mich darauf, von Ihnen zu hören. Bis zum nächsten Mal.
Hinweis: Die Stimmen und Inhalte dieses Podcasts werden mithilfe künstlicher Intelligenz erzeugt. Die rechtlichen Inhalte wurden von Rechtsanwalt Kramarz geprüft.
