Können Sie sich blind auf die KI-Antworten in Ihrer Google-Suche verlassen? Passend zum aktuellen Artikel „Die KI-Übersicht in der Google-Suche: Wer haftet für automatisierte Fehlinformationen?„ von Rechtsanwalt Kramarz beleuchten wir in dieser Episode die komplexen Aspekte von Haftungsfragen bei KI-generierten Inhalten. Gemeinsam erklären wir anschaulich, worauf es bei der rechtlichen Zurechnung von AI Overviews ankommt, um kostspielige Haftungsfallen und Reputationsschäden zu vermeiden.
Wir untersuchen die rechtliche Einordnung von Google zwischen Plattformbetreiber und Content-Ersteller. Dabei gehen wir gezielt auf die Problematik der „Halluzinationen“ ein, bei denen die KI falsche Tatsachen behauptet, und klären, ob der Google-Algorithmus als „Bote“ oder „Täter“ agiert. In dieser Episode diskutieren wir typische Szenarien, in denen Unternehmen durch falsche KI-Zusammenfassungen geschädigt werden, und zeigen Ihnen Strategien auf, wie Sie Unterlassungs- und Schadensersatzansprüche geltend machen können. Wir verdeutlichen dabei die Unterschiede zwischen der Störerhaftung und der unmittelbaren Täterschaft sowie die Rolle von Prüfpflichten seitens der Suchmaschinenbetreiber.
Basierend auf den Ausführungen von Rechtsanwalt Kramarz betonen wir, wie wichtig es ist, die eigene Online-Präsenz in den neuen KI-Suchergebnissen proaktiv zu überwachen und warum eine frühzeitige Auseinandersetzung mit dem digitalen Äußerungsrecht entscheidend sein kann, um Falschdarstellungen effektiv zu korrigieren. Verpassen Sie nicht unsere praxisnahen Tipps, die auf dem Fachwissen von Rechtsanwalt Kramarz basieren, wie Sie rechtlich gegen automatisierte Fehlinformationen vorgehen können.
Vertiefende Informationen und Beispiele finden Sie im zugehörigen Artikel „Die KI-Übersicht in der Google-Suche: Wer haftet für automatisierte Fehlinformationen?“ auf der Website von Kanzlei Kramarz.
Sie haben Fragen zu KI-Haftung oder benötigen Unterstützung? Kontaktieren Sie Rechtsanwalt Kramarz für eine individuelle Einschätzung Ihrer Situation.
Transkript der Folge
Rechtsanwalt Kramarz (Intro): Herzlich willkommen zum Podcast von Rechtsanwalt Kramarz. Als Fachanwalt für Urheber- und Medienrecht sowie für Informationstechnologierecht informiere ich hier im Podcast zu aktuellen rechtlichen Themen. Ich vertrete Mandanten in Darmstadt und bundesweit. Umfassende Informationen finden Sie auf meiner Webseite unter www.kanzlei-kramarz.de. Sie erreichen mich für eine erste kostenlose telefonische Beratung unter der Nummer 06151 2768227 oder per E-Mail unter anfrage@kanzlei-kramarz.de. Wir übergeben jetzt an unsere Moderatoren Lex und Nova mit den Details zum aktuellen Thema. Viel Spaß.
Lex: Willkommen bei der Kanzlei Kramarz. Stell dir mal vor, du suchst online nach Infos zu einem, sagen wir mal, sehr speziellen medizinischen Eingriff. Ganz oben auf der Ergebnisseite, noch vor allen Links, prangt eine von einer KI erstellte Zusammenfassung. Und darin steht ein Satz, der den Eingriff klingen lässt wie eine mittelalterliche Foltermethode. Deine Suche ist sofort beendet.
Nova: Ja, das kann ich mir vorstellen.
Lex: Genau das ist passiert. Und heute schauen wir uns an, wie die deutsche Justiz mit künstlicher Intelligenz ringt, wenn es um – na ja – die Länge und Beschaffenheit geht.
Nova: Absolut. Das Thema heute ist die Haftung von Suchmaschinenbetreibern für Fehler in ihren KI-generierten Übersichten.
Lex: Genau, und wir haben dafür eine perfekte Vorlage: ein brandaktuelles Urteil des Landgerichts Frankfurt vom 10. September 2025.
Nova: Richtig, unsere Mission für dich heute: Wir beleuchten erst die, man muss sagen, wirklich skurrilen Details dieses Falls und arbeiten uns dann durch die knallharten juristischen Eckpunkte, die für jedes Unternehmen im Netz entscheidend sein könnten.
Lex: Okay, packen wir das mal aus! Wer hat hier eigentlich geklagt?
Nova: Das war ein Verbund von Ärzten, spezialisiert auf plastische Chirurgie im männlichen Intimbereich. Wie du dir vorstellen kannst, hängt deren Geschäft maßgeblich davon ab, dass Patienten sie über die Suchmaschine des riesigen Konzerns finden.
Lex: Logisch. Und die Suche nach dem Begriff Penisvergrößerung war es dann auch, die das ganze juristische Fass zum Überlaufen brachte.
Nova: Und der Stein des Anstoßes war diese KI-Übersicht, die der Suchmaschinenbetreiber prominent über den eigentlichen Suchergebnissen anzeigt.
Lex: Genau diese Box.
Nova: Das ist ja eine Funktion, die in Echtzeit Informationen von verschiedenen Webseiten zusammenkratzt und versucht, dem Nutzer eine schnelle, direkte Antwort zu geben.
Lex: Ja, und diese schnelle Antwort hatte es in sich. Ich muss das mal wörtlich zitieren, halt dich fest: In der KI-Box stand: „Bei einer Penisverlängerung wird der im Körper verborgene Teil des Penis durchtrennt und nach außen verlagert.“
Nova: Autsch.
Lex: Lass das mal kurz sacken. Ich bin kein Mediziner, aber für mich als Laie klingt „durchtrennt“ nach Amputation.
Nova: Absolut, das Bild kriegst du nicht mehr aus dem Kopf.
Lex: Und das war exakt das Argument des Ärzteverbunds. Sie sagten, diese Darstellung ist nicht nur objektiv falsch, sondern auch massiv geschäftsschädigend.
Nova: Klar, sie schürt Ängste und führt dazu, dass potenzielle Patienten die Suche sofort abbrechen. Man spricht hier vom Zero-Click-Phänomen.
Lex: Das heißt, die Nutzer sehen diese schockierende Info und klicken auf gar nichts mehr.
Nova: Genau, auch nicht auf die Webseiten der spezialisierten Ärzte, die es ja eigentlich richtig erklären würden. Die gehen leer aus.
Lex: Wobei das medizinische Vorgehen ja ein völlig anderes ist.
Nova: Richtig. Die Kläger haben erklärt, dass bei einer korrekten OP lediglich die Haltebänder des Penis gelöst werden, eine sogenannte Ligamentolyse. Der Penis selbst wird selbstverständlich nicht verletzt oder gar durchtrennt. Es geht um eine optische Verlängerung, ein feiner, aber ich würde sagen, existenzieller Unterschied.
Lex: Natürlich hat sich die Suchmaschine verteidigt. Das erste Argument war der Kontext.
Nova: Ach, der Kontext.
Lex: Ja, sie sagten: Moment, man darf den Satz nicht isoliert betrachten. Direkt im nächsten Bulletpoint der KI-Übersicht wird ja erklärt, dass dies durch das Lösen der Haltebänder erreicht wird.
Nova: Moment mal, dann muss ich direkt einhaken. Das ist doch lebensfremd.
Lex: Wie meinst du?
Nova: Wer liest denn noch weiter, nachdem der erste Satz so ein Bild erzeugt? Der erste Schock sitzt und der Nutzer ist weg. Das kann doch kein ernsthaftes Argument sein, oder?
Lex: Juristisch gesehen ist es das schon. Es ist der Versuch zu argumentieren, dass die Information im Gesamtbild nicht irreführend ist. Na ja, aber du hast recht, es reibt sich an der Realität des Nutzerverhaltens. Das zweite Argument war dann rein technischer Natur.
Nova: Die Technik was?
Lex: Sozusagen. Man sagte, das sei gar keine eigene Äußerung des Unternehmens, es handele sich um maschinengenerierte Informationen, die auf Inhalten von Webseiten Dritter basieren.
Nova: Also nur ein neutraler Vermittler.
Lex: Genau, eine Art Bibliothekar, der auf Bücher verweist, aber nicht der Autor ist.
Nova: Das ist doch die klassische „Das war nicht ich, das war die Maschine“-Ausrede. Als ob ein Kind den Staubsaugerroboter beschuldigt, die Vase umgefahren zu haben. Am Ende hat doch jemand den Roboter eingeschaltet.
Lex: Genau diese Frage – wer hat den Roboter eingeschaltet und ist dafür verantwortlich – ist der Kern der Sache. Und als drittes, fast schon verzweifeltes Argument wurde sogar bestritten, dass der Ärzteverbund die OPs überhaupt selbst durchführt.
Nova: Ernsthaft?
Lex: Ja, man hat ihnen unterstellt, nur Marketing zu betreiben. Ein klassischer Versuch, dem Kläger die Betroffenheit abzusprechen.
Nova: Das hat alles ein gewisses komödiantisches Potenzial. In unserem Kanzleiblog haben wir es mal so formuliert: Es entbehrt nicht einer gewissen Ironie, dass ausgerechnet die Frage nach der Länge zum Gradmesser für die Standfestigkeit unserer digitalen Rechtsordnung wird.
Lex: Passt.
Nova: Aber hinter dem kuriosen Sachverhalt steckt ja eine Grundsatzfrage: Wer haftet, wenn Algorithmen Fakten verdrehen? Lass uns das jetzt mal juristisch auseinandernehmen.
Lex: Sehr gerne. Fangen wir mit der wichtigsten und wegweisenden Aussage des Gerichts an. Im ersten Leitsatz des Urteils steht: „Eine Haftung des Suchmaschinenbetreibers für falsche KI-generierte Information ist nicht per se ausgeschlossen.“
Nova: Okay, das ist ein Paukenschlag.
Lex: Absolut.
Nova: Das bedeutet, die Ausrede „Die Technik war’s“ zieht nicht mehr. Die Tür für eine Haftung ist also grundsätzlich offen. Umso mehr frage ich mich jetzt: Warum haben die Ärzte den Fall dann trotzdem verloren?
Lex: Weil das Gericht sehr differenziert geprüft hat, ob die Tür in diesem speziellen Fall auch durchschritten werden kann.
Nova: Ah, okay.
Lex: Schauen wir uns zunächst die Prüfung nach dem deutschen Kartellrecht an, genauer gesagt nach § 19 des Gesetzes gegen Wettbewerbsbeschränkungen, kurz GWB.
Nova: Da geht es um den Missbrauch einer marktbeherrschenden Stellung.
Lex: Exakt.
Nova: Und die Marktbeherrschung war hier ja unstrittig, oder? Der Konzern ist ja von allen Behörden als Gatekeeper eingestuft, das ist quasi amtlich.
Lex: Genau das war die juristische Eintrittskarte für die Kläger. Als Nächstes prüfte das Gericht, ob eine Behinderung vorliegt. Und auch das wurde bejaht. Die Richter argumentierten aus eigener Anschauung als Nutzer: Diese prominente KI-Box lenkt Klicks von den organischen Suchergebnissen ab.
Nova: Man muss also erst daran vorbeiscrollen.
Lex: Richtig, man muss aktiv an dieser Box vorbeiscrollen, um zu den eigentlichen Links zu gelangen. Das beeinflusst das Klickverhalten und behindert somit die Anbieter, die weiter unten gelistet sind.
Nova: Also, Marktbeherrschung: ja. Behinderung: ja. Das klingt doch erst mal nach einer klaren Sache für die Ärzte. Wo war der Haken?
Lex: Der Haken war die dritte und entscheidende Stufe, die sogenannte Unbilligkeit der Behinderung.
Nova: Unbilligkeit.
Lex: Ja, eine Behinderung ist nach dem GWB nämlich nur dann verboten, wenn sie unbillig, also im Ergebnis unfair ist. Und um das zu beurteilen, hat das Gericht eine umfassende Interessenabwägung vorgenommen. Und die entscheidende Frage war dann: War die Aussage der KI denn nun wirklich falsch?
Nova: Und die Antwort des Gerichts war: Nein? Das kann ich kaum glauben.
Lex: Richtig, die Antwort war: Nein. Und jetzt kommt die Begründung, die du vorhin schon kritisiert hast.
Nova: Ich ahne es.
Lex: Die Richter argumentierten, dass der durchschnittliche Nutzer die Aussage im Gesamtkontext der KI-Box versteht.
Nova: Ach bitte.
Lex: Zwar mag der erste Satz mit dem Wort „durchtrennt“ schockieren, aber die direkt nachfolgenden Bulletpoints klären diesen Satz auf.
Nova: Weil da steht, dass es durch das Lösen der Haltebänder passiert.
Lex: Genau. Im Gesamtverständnis, so das Gericht, erkennt der Nutzer, worum es geht, und geht nicht von einer Amputation des Schwellkörpers aus.
Nova: Da muss ich ehrlich sagen, diese Argumentation des Gerichts fühlt sich für mich an wie eine echte Dehnung der Realität. Geben die dem durchschnittlichen Nutzer da nicht viel zu viel Kredit? Wir reden vom Internet, wo die Aufmerksamkeitsspanne bei drei Sekunden liegt.
Lex: Ja, der Punkt ist valide.
Nova: Die Leute sehen „Penis durchtrennt“ und machen den Tab zu. Die lesen doch keine Bulletpoints mehr. Das fühlt sich an, als würde man die Realität des Panic-Scrollings komplett ignorieren.
Lex: Das ist absolut der Punkt. Und genau die Spannung, die in diesem Urteil steckt: Das Gericht muss nach juristischen Maßstäben urteilen. Und dazu gehört die Analyse des gesamten zur Verfügung gestellten Inhalts.
Nova: Es kann nicht nur um den ersten Schock gehen.
Lex: Richtig, es kann nicht allein auf dem psychologischen Schockmoment abstellen. Was faszinierend ist: Die Unbilligkeit hätte durchaus bejaht werden können, wenn die Aussage auch im Kontext objektiv falsch geblieben wäre.
Nova: Ah, das Gericht betont sogar, dass bei medizinischen Themen der sogenannten Your-Money-or-Your-Life-Kategorie besonders strenge Anforderungen an die Richtigkeit gelten.
Lex: Aber hier war es eben nicht falsch genug.
Nova: So kann man es sagen. Weil die Aussage im Kontext als gerade noch zutreffend eingestuft wurde, war die Behinderung eben nicht unbillig. Daran ist der Anspruch aus dem Kartellrecht gescheitert.
Lex: Eine haarscharfe Entscheidung also, die mehr über juristische Auslegung als über die Nutzererfahrung aussagt. Aber die Kläger hatten doch noch ein zweites Ass im Ärmel, den Digital Markets Act, kurz DMA. Was war das Argument da?
Nova: Hier ging es um Artikel 6 Absatz 5 des DMA, das Verbot der Selbstbevorzugung. Das ist ein ganz anderes Spielfeld.
Lex: Es geht darum, dass die Gatekeeper ihre eigenen Produkte nicht bevorzugen dürfen.
Nova: Genau. Die Idee des DMA ist es ja, zu verhindern, dass die großen Gatekeeper ihre eigenen Produkte und Dienste auf ihrer Plattform bevorzugen.
Lex: Und das Argument der Ärzte war: Diese KI-Übersicht ist genau so ein eigenes Produkt, das der Suchmaschinenbetreiber unfair vor die Ergebnisse aller anderen stellt.
Nova: Klingt für mich auf den ersten Blick total logisch.
Lex: Das klang auch für viele Beobachter logisch. Der Ärzteverbund argumentierte: Der Konzern ersetzt quasi die neutralen Suchergebnisse durch ein eigenes, hervorgehobenes Produkt, das ihm die ganze Aufmerksamkeit sichert. Der klassische Fall von Selbstbevorzugung, so die Argumentation.
Nova: Warum ist das Gericht dem nicht gefolgt?
Lex: Weil das Gericht hier eine sehr feine, aber entscheidende juristische Linie gezogen hat. Es hat die KI-Übersicht nicht als separates Produkt oder eigene Dienstleistung im Sinne des DMA angesehen.
Nova: Was soll es denn sonst sein?
Lex: Laut Gericht ist es ein integraler Teil des Suchergebnisses selbst.
Nova: Okay, das musst du erklären.
Lex: Ein Beispiel für einen eigenen Dienst wäre, wenn du nach Flügen suchst und ganz oben prominent der eigene Flugvergleichsdienst des Konzerns angezeigt wird. Oder der eigene Kartendienst bei einer Ortssuche.
Nova: Verstehe, das sind separate Dienste.
Lex: Richtig. Die KI-Übersicht aber, so die Richter, ist etwas anderes: Sie ist die direkte, wenn auch maschinell erstellte, Antwort auf die Suchanfrage des Nutzers.
Nova: Ah, sie fasst Informationen zusammen, aber sie verweist nicht auf einen anderen separaten Dienst des Gatekeepers.
Lex: Es wird ja nicht zu einem konkurrierenden Ärzteportal des Suchmaschinenkonzerns geleitet.
Nova: Wow, okay, das heißt, der ganze Fall hängt an der Definition, ob diese Box ein eigenständiges Produkt oder nur eine schickere Form der Antwort ist.
Lex: Exakt.
Nova: Das ist ja eine Spitzfindigkeit, die über Millionen an Werbeeinnahmen entscheidet.
Lex: Exakt. Es ist eine extrem wichtige Klarstellung für die Zukunft. Solange die KI-Box nur die Suchergebnisse zusammenfasst und nicht als Sprungbrett für andere konzerneigene Dienste fungiert, ist sie aus Sicht des DMA – zumindest nach diesem Urteil – erlaubt.
Nova: Okay, wenn wir das im größeren Kontext betrachten, hat das Gericht hier zwei sehr präzise Linien gezogen. Einerseits hat es die grundsätzliche Haftung für KI-Fehler bejaht, andererseits hat es die Hürden für einen erfolgreichen Anspruch extrem hoch gelegt.
Lex: Gut, lass uns das mal für dich zusammenfassen. Was bedeutet das jetzt alles konkret? Die erste und vielleicht wichtigste Erkenntnis für mich ist: Die Zeit der Ausreden ist vorbei.
Nova: Genau, die Kernaussage des Gerichts ist: In dem Moment, in dem eine KI aufhört, nur ein Bibliothekar zu sein, der dir den Weg zu den Büchern zeigt, und anfängt, selbst die Zusammenfassung des Buches zu schreiben, wird sie zum Autor.
Lex: Und ein Autor trägt Verantwortung.
Nova: Richtig, und ein Autor trägt Verantwortung für das, was er schreibt. Suchmaschinen können also für KI-Fehler haftbar gemacht werden, die Tür ist auf.
Lex: Der zweite Punkt ist aber die kalte Dusche für alle Kläger. Nur weil eine KI-Aussage unglücklich formuliert ist oder im ersten Moment schockiert, heißt das nicht, dass sie juristisch falsch ist.
Nova: Korrekt. Das Gericht schaut auf den Gesamtkontext. Eine unglückliche Formulierung allein reicht nicht, wenn der Rest der Info sie wieder einordnet und klarstellt.
Lex: Und drittens: Die prominenten KI-Boxen sind stand heute kein verbotener Trick, um eigene Dienste zu pushen, solange sie nur Informationen zusammenfassen.
Nova: Genau, sie gelten als Teil der Suchantwort selbst und verstoßen damit nicht gegen das Selbstbevorzugungsverbot des Digital Markets Act.
Lex: Und was bedeutet das jetzt für dich, wenn du ein Unternehmen hast oder eine Dienstleistung anbietest?
Nova: Es sollte ein Weckruf sein. Es geht hier ja nicht nur um skurrile Suchanfragen. Denk an medizinische Diagnosen, finanzielle Ratschläge oder juristische Informationen.
Lex: Die wichtigen Themen eben.
Nova: Wenn eine KI falsche Informationen über dein Angebot zusammenfasst, kann das deinen Ruf und dein Geschäft massiv schädigen. Es lohnt sich also, die eigene Online-Darstellung und das, was KIs darüber sagen, sehr, sehr genau zu beobachten.
Lex: Es gibt da noch eine faszinierende Randnotiz aus dem Gerichtssaal, die mir nicht aus dem Kopf geht. Der Suchmaschinenbetreiber hat allen Ernstes argumentiert, er könne sein eigenes KI-System nicht immer vollständig kontrollieren. Stell dir das mal vor.
Nova: Ein bemerkenswert ehrliches, aber juristisch gefährliches Eingeständnis.
Lex: Und das Gericht hat es einfach vom Tisch gewischt. Die Begründung war so trocken wie genial: Wer ein System einsetzt, ist auch dafür verantwortlich. Punkt.
Nova: Keine Diskussion.
Lex: Keine Diskussion. Und das wirft die eigentliche Zukunftsfrage auf, die weit über diesen Einzelfall hinausgeht.
Nova: Definitiv.
Lex: Und das überlassen wir dir als Denkanstoß: Wenn Unternehmen zunehmend Technologien nutzen, deren Ergebnisse sie nicht immer präzise vorhersagen können, wo sollte die Verantwortung für schädliche Fehler am Ende liegen?
Nova: Beim Unternehmen, das mit der Technologie Geld verdient.
Lex: Oder doch irgendwo in den undurchsichtigen Tiefen des Algorithmus selbst?
Nova: Eine Frage, die uns in den kommenden Jahren noch intensiv beschäftigen wird. Definitiv.
Lex: Und mit diesem Gedanken entlassen wir dich für heute. Im Namen der Kanzlei Kramarz danke ich dir für deine Zeit und dein Interesse. Bis zum nächsten Mal.
Rechtsanwalt Kramarz (Outro): So, das war’s von Lex und Nova für diese Folge. Wir hoffen, Sie konnten heute wieder etwas schlauer werden, ohne dabei einzuschlafen. Und bevor Sie nun Ihre neu gewonnenen Erkenntnisse anwenden, hier kommt noch etwas Wichtiges: Ich unterstütze Mandanten sowohl in Darmstadt als auch bundesweit in vielfältigen rechtlichen Fragestellungen. Wenn Sie zu dem Thema dieser Podcast-Episode Beratungsbedarf haben oder eine allgemeine Rechtsfrage besteht, lade ich Sie herzlich ein, mit mir in Kontakt zu treten. Sie erreichen mich telefonisch unter 06151 2768227. Falls Sie mich nicht direkt persönlich erreichen, hinterlassen Sie mir Ihre Anfrage, ich melde mich. Selbstverständlich können Sie mir Ihr Anliegen auch jederzeit per E-Mail an anfrage@kanzlei-kramarz.de senden. Umfassende Informationen über meine Kanzlei und meine Rechtsgebiete finden Sie auf meiner Webseite unter www.kanzlei-kramarz.de. Ich freue mich darauf, von Ihnen zu hören. Bis zum nächsten Mal.
Hinweis: Die Stimmen und Inhalte dieses Podcasts werden mithilfe künstlicher Intelligenz erzeugt. Die rechtlichen Inhalte wurden von Rechtsanwalt Kramarz geprüft.
