Vertragsfehler auf Autopilot – Die Haftung von Geschäftsleitungen für eine KI-basierte Erstellung von Verträgen

Viele KI-Modelle sind „Black Boxes“

KI-Systeme, die für die Vertragsgestaltung verwendet werden, arbeiten auf der Grundlage von Algorithmen und maschinellem Lernen. Sie analysieren große Datenmengen, um Muster zu erkennen und eigenständig Entscheidungen zu treffen, die normalerweise menschliche Intelligenz erfordern.

Im Bereich der Vertragsgestaltung neigen KI-Systeme dazu, Verträge basierend auf bestehenden Mustern zu standardisieren. Dies birgt jedoch Risiken: Spezifische Vertragsbedingungen, die für einen Einzelfall entscheidend sein könnten, werden möglicherweise nicht hinreichend berücksichtigt. Statt auf jeweilige Erfahrung juristischer Beraterinnen und Berater wird nur auf das beschränkte, gespeicherte Wissen zurückgegriffen.

Das Kernproblem liegt in der Intransparenz der Entscheidungsprozesse – der sogenannten Black-Box-Problematik. Da viele KI-Systeme, insbesondere im Bereich des Deep Learning, komplexe Entscheidungen treffen, deren innere Abläufe von außen kaum nachvollziehbar sind, ist die Identifikation potenzieller Fehlerquellen erheblich erschwert. Diese Intransparenz kann zu schwerwiegenden rechtlichen Konsequenzen führen, vor allem dann, wenn fehlerhafte Vertragsklauseln zu finanziellen Schäden führen.

Eine der wesentlichen Verpflichtungen der Geschäftsleitung besteht darin, ihre Tätigkeit stets gesetzeskonform und im Rahmen der rechtlichen Vorgaben auszuüben. Dabei ist sie verpflichtet, die Sorgfalt eines ordentlichen und gewissenhaften Geschäftsleiters zu wahren, vgl. §§ 93 Abs. 1 AktG, 43 Abs. 1 GmbHG. Mit der Business Judgement Rule (§ 93 Abs. 2 AktG) steht der Geschäftsleitung jedoch ein gerichtlich nicht überprüfbarer Ermessensspielraum zu, der die Haftung insoweit einschränkt, als die Entscheidung auf einer sorgfältigen Abwägung und zum Wohle der Gesellschaft getroffen wurde.

Im Kontext des Einsatzes von KI-Systemen in der Vertragsgestaltung stellt sich daher die Frage, welcher Sorgfaltsmaßstab hier anzuwenden ist und inwieweit der Beurteilungsspielraum der Geschäftsleitung durch die spezifischen Risiken und Anforderungen von KI beeinflusst wird.

Nach der strengen Rechtsprechung des BGH ist eine sorgfältige Vorbereitung unverzichtbar für eine ordnungsgemäße Ermessensentscheidung des Geschäftsführers oder der Geschäftsführerin. In jeder konkreten Situation hat dieser alle verfügbaren Informationsquellen – sowohl tatsächlicher als auch rechtlicher Art – umfassend zu nutzen und die Vor- und Nachteile der möglichen Handlungsalternativen sorgfältig abzuwägen. Dabei sind die erkennbaren Risiken angemessen zu berücksichtigen und eine fundierte Entscheidung zu treffen. Der Umfang der notwendigen Vorbereitung richtet sich stets nach den spezifischen Umständen des Einzelfalls.

KI bietet keine ausreichende Informationsquelle

Wie eingangs dargestellt, birgt die Gestaltung von Verträgen durch KI mehrere Risiken, die bereits im Kontext der globalen Finanzmarktkrise 2007-2009 auftraten, als es um das Vertrauen von Bankvorständen in die Urteile von Rating-Agenturen ging. Damals war unklar, ob sich ein Vorstand auf Bewertungen verlassen durfte, deren Zustandekommen er nicht durchdringen konnte und die möglicherweise von den Eigeninteressen der Rating-Agenturen beeinflusst waren. In einer Entscheidung vom OLG Düsseldorf (Beschluss vom 09.12.2009 – 6 W 45/09) wurden dem Vorstand die Haftungsprivilegien der Business Judgement Rule gem. § 93 Abs. 2 AktG mit der Begründung versagt, dass dem Vorstand keine ausreichende Informationsquelle zur Verfügung stand.

Die Grundsätze aus dieser Entscheidung lassen sich auf den Einsatz von KI übertragen. Anders als bei menschlichen Entscheidungsprozessen bleibt häufig unklar, auf welcher Grundlage die KI zu ihren Ergebnissen kommt. Dies führt dazu, dass Geschäftsleitungen, die auf KI vertrauen, die Entscheidungswege und Bewertungsmethoden der Technologie – wie bei Rating-Urteilen – nur schwer nachvollziehen oder kontrollieren können. Dies kann besonders kritisch werden, wenn die KI auf veralteten oder fehlerhaften Daten basiert, die zu falschen oder unpassenden Vertragsklauseln führen.

Da KI-Systeme in der Regel von Drittanbietern entwickelt und bereitgestellt werden, können deren kommerzielle Interessen oder Prioritäten die Funktionsweise und Leistung der KI beeinflussen – etwa durch voreingestellte Standardklauseln, die den Vertragspartnern nicht immer offengelegt werden. Dies ist besonders problematisch, da es für die Geschäftsführung schwer erkennbar ist, inwieweit diese Eigeninteressen die Entscheidungsfindung der KI tatsächlich beeinflussen.

Wie bei den Rating-Agenturen, die keine Verantwortung für ihre Urteile übernehmen, schließen auch KI-Anbieter häufig jede Haftung für die von ihren Systemen erstellten Ergebnisse aus. Damit wird die Verantwortung für eventuelle Fehler oder unzureichende Verträge vollständig auf die Geschäftsführung übertragen.

Daraus folgt, dass KI in potenziell geschäftskritischen Bereichen keine hinreichende Informationsgrundlage für fundierte Entscheidungen darstellt. Insbesondere sind KI-generierte Empfehlungen nicht als ausreichende Entscheidungsbasis anzusehen und die eigenständige Entscheidungsfindung in diesen sensiblen Bereichen nicht der KI zu überlassen.

Fazit

Der Einsatz von KI in der Vertragsgestaltung bietet zweifellos Vorteile, bringt aber auch ganz erhebliche Haftungsrisiken mit sich. Geschäftsführer/-innen und verantwortliche Bereichsleiter/-innen müssen sicherstellen, dass die eingesetzten Systeme ordnungsgemäß funktionieren, auf aktuellen Daten basieren und regelmäßig überprüft werden und wirklich menschlichen Bearbeitungsstandard entsprechen, was aktuell selten bis nie der Fall sein dürfte.

Nur so können Haftungsrisiken minimiert und das Unternehmen rechtlich abgesichert werden. Geschäftsführungen sollten daher im Hinblick auf Ihre persönliche Haftung den Einsatz von KI in Rechtsangelegenheiten des Unternehmens, insbesondere der Vertragsgestaltung sehr genau überlegen.

Zukünftige Entwicklungen, wie eine potenzielle Haftung von KI-Systemen selbst, bleiben von Interesse und könnten das rechtliche Umfeld in diesem Bereich maßgeblich verändern.