1. Gesellschaftsrechtliche Grundlagen

Der Einsatz von KI-Systemen auf leitender (Geschäftsführungs-)Ebene sollte nicht unüberlegt erfolgen. Dieser unterliegt, ebenso wie eine Delegation von Aufgaben an Mitarbeiter, gewissen Voraussetzungen, um eine ordnungsgemäße Leitung der Gesellschaft zu gewährleisten und damit letztendlich eine Haftung der Leitungsorgane zu vermeiden.

1.1. Leitung der Gesellschaft

Das Leitungsorgan (insb. der Vorstand oder die Geschäftsführung) einer Gesellschaft führt im Innenverhältnis deren Geschäfte und vertritt diese im Außenverhältnis. Zur Leitung gehören durch Gesetz ausdrücklich zugewiesene Aufgaben wie z.B. die Vorbereitung und Ausführung von Beschlüssen der Hauptversammlung/Gesellschafterversammlung, Berichtspflichten oder die Aufstellung des Jahresabschlusses. Daneben müssen die Leitungsorgane auch unternehmerische Leitungsaufgaben, zu denen insbesondere die Unternehmensführung, die Bestimmung der Unternehmenspolitik sowie grundlegende Organisations- und Risikoentscheidungen gehören, erfüllen.

1.2. Delegation

Im Rahmen der Geschäftsführung kann das Leitungsorgan als Folge seiner Organisationsverantwortung nach Ermessen einzelne Aufgaben, wie Vorbereitungs- oder Ausführungshandlungen, an andere Organe, nachgelagerte Stellen oder Externe delegieren. Die Letztentscheidungskompetenz und Entscheidungsverantwortung muss bei Aufgaben von essenzieller Bedeutung für die Gesellschaft („Leitungsaufgaben“) jedoch stets beim Leitungsorgan verbleiben. Die konkrete Abgrenzung von Leitungs- und Geschäftsführungsaufgabe und damit einhergehend die Möglichkeit und das Ausmaß einer Delegation hängt erheblich von einzelnen Faktoren des konkreten Einzelfalls, also des Unternehmens, ab. Dabei sind bspw. Kriterien wie die Unternehmensgröße, die Organisationsstruktur und die Entscheidungskomplexität relevant. Wichtig ist, dass das Leitungsorgan bei Auswahl, Überwachung und Einweisung des/der Delegierten die notwendige Sorgfalt einhalten muss. Bei zulässiger Delegation wandelt sich die originäre Leitungsverantwortung sodann in eine spezifische Organisationspflicht um.

Werden nunmehr KI-Systeme auf Leitungsebene eingesetzt, so ist dieser Einsatz als Delegation von Aufgaben einzuordnen. In der Regel wird man die autonomen KI-Systeme für komplexe und einflussreiche Aufgaben im Unternehmen einsetzen, wodurch eine vergleichbare Risikoquelle wie beim Einsatz menschlicher Delegaten entsteht. Daher müssen für beide Einsätze (Delegationen) die gleichen (rechtlichen) Grenzen gelten.

1.3. Haftungsmaßstab für Leitungsaufgaben

Laut § 93 Abs. 1 AktG, der zentralen Norm zur Herleitung von Vorstandspflichten, müssen die Vorstandsmitglieder bei ihrer Geschäftsführung „die Sorgfalt eines ordentlichen und gewissenhaften Unternehmensleiters“ anwenden. Folglich wird hier ein Sorgfaltsmaßstab konstituiert, wobei dieser in Relation zu Art und Umfang der einzelnen Gesellschaft zu setzen ist. Neben dem Sorgfaltsmaßstab enthält § 93 Abs. 1 AktG jedoch auch eine Generalklausel für Verhaltenspflichten, aus denen sich bei Bedarf – je nach Unternehmen und Situation - einzelne Pflichten ableiten lassen. Abstrakt beurteilt müssen Vorstandsmitglieder über angemessene Kompetenzen verfügen, Risiken von der Gesellschaft abwenden und Vorteile schaffen sowie wahren und insgesamt den Gesellschaftszweck fördern. § 43 GmbHG enthält eine vergleichbare Regelung für die Geschäftsführung einer GmbH/UG (haftungsbeschränkt).

Die Ausübung von Leitungsaufgaben birgt einen Ermessensspielraum, um unternehmerische Tätigkeiten und Entscheidungen zu vollziehen. Damit Vorstandsmitglieder aber nicht für jede Ermessensentscheidung haften müssen, können sie sich ggf. auf die Business Judgement Rule (z.B. § 93 Abs. 1 S. 2 AktG) berufen. Demnach wird dem Vorstand ein haftungsfreier Ermessensspielraum eingeräumt, wenn es „bei einer unternehmerischen Entscheidung vernünftigerweise annehmen durfte, auf der Grundlage angemessener Informationen zum Wohle der Gesellschaft zu handeln“. Hiervon ausgenommen sind gebundene Entscheidungen, wenn die Legalitätspflicht betroffen ist. Nach der muss sich der Vorstand bei Wahrnehmung seiner Aufgaben an gesetzliche Vorgaben halten. Konkret: die Business Judgement Rule (BJR) greift nur da, wo das Gesetz keine konkreten Vorgaben macht. Durch eine analoge Anwendung gilt diese BJR auch auf Ebene einer GmbH/UG (haftungsbeschränkt).

Wichtiger Bezugspunkt der BJR ist die Grundlage angemessener Informationen. Grundsätzlich bedeutet dies, dass eine ausreichende Informationsgrundlage bestehen muss, auf welcher eine informierte Entscheidung getroffen werden kann. Die Angemessenheit entscheidet sich auch hier wieder anhand des Einzelfalls, es geht hauptsächlich darum ein „angemessenes“ Verhältnis zwischen verfügbaren Informationen, Ertrag und Risiko herzustellen – um so eine fundierte Entscheidung zu treffen.

2. Grundlagen zum Einsatz von KI-Systemen auf Leitungsebene

2.1 Ersetzung von Organmitgliedern durch KI?

In letzter Zeit entstehen immer mehr innovative KI-Systeme, die einen vielfältigen Einsatz in einer Unternehmensstruktur ermöglichen. Hierbei handelt es sich bei Weitem nicht mehr nur um das allgemein bekannte ChatGPT, auch wenn diese KI-Anwendung wohl die bekannteste ist. Angesichts der aktuellen Entwicklungen stellt sich zwangsläufig die Frage, ob künftig auch Leitungspositionen im Unternehmen durch KI‑Systeme (vollständig) ersetzt werden können.

Ein Blick auf die aktuelle Rechtslage (z.B. § 76 Abs. 3 S. 1 AktG und § 6 Abs. 2 S. 1 GmbHG) hilft bei der Beantwortung: Derzeit kann nur als Vorstand oder Geschäftsführer bestellt werden, wer eine natürliche, unbeschränkt geschäftsfähige Person ist. Selbst für Personengesellschaften, die von ihren Gesellschaftern vertreten werden, welche auch juristische Personen sein können, gilt, dass diese als Geschäftsführungsorgan einer natürlichen Person bedürfen. KI-Systeme erfüllen keine dieser Voraussetzungen, vielmehr ist eine KI nach geltender Rechtslage nicht Rechtssubjekt und kann somit nicht Träger von Rechten und Pflichten sein. Wie sich dies in Zukunft, bspw. durch Einführung einer strittig diskutierten "e-Person“, entwickeln wird, bleibt abzuwarten. Klar ist jedoch: aktuell ist es nur einer natürlichen Person möglich, Vorstandsmitglied oder Geschäftsführer zu sein.

2.2 Entscheidende & beratende KI-Systeme

Der Einsatz einer leitungsausübenden KI ist unter der aktuell geltenden Rechtslage somit nicht zulässig. Grundsätzlich zulässig ist aber der Einsatz leitungsunterstützender KI-Systeme.

Nutzt das Leitungsorgan zur Unterstützung seiner vielfältigen Entscheidungen ein KI-System, sollte zwischen entscheidungsvorbereitenden (beratenden) und entscheidenden Systemen unterschieden werden.

a) Entscheidende KI-Systeme

Ein entscheidendes KI-System handelt autonom: es ist vollständig automatisiert, entscheidet selbst und setzt diese Entscheidung dann auch eigenständig um. Folglich dient eine solche KI nicht mehr allein der Unterstützung von menschlichen Entscheidungen, sondern „handelt“ selbst. Eine entscheidende KI liegt auch dann vor, wenn das Ziel von Menschen festgelegt wurde und bei der Verfolgung des Ziels ein gewisser Entscheidungsspielraum besteht.

Im Hinblick auf die aus gesellschaftsrechtlicher Sicht erforderliche (Letzt-)Entscheidungskompetenz von (menschlichen) Leitungsorganen scheint die Delegation von Entscheidungen an KI-Systeme fraglich. Das Delegationsverbot für letztverantwortliche Entscheidungen führt nämlich dazu, dass das Leitungsorgan bei Nutzung von KI-Systemen sicherstellen müsste, dass diese keine autonomen Leitungsentscheidungen treffen können. Es muss das Ergebnis der KI kritisch hinterfragen und eine bewusste Entscheidung zur Handlung auf Basis nicht durch Algorithmen gewonnener Informationen treffen. Vor allem muss es Grenzen für die KI definieren, um aufzuzeigen, in welchem Rahmen sich das System bewegen darf.

Grundsätzlich scheint der Einsatz eines entscheidenden KI-Systems erst einmal nicht unzulässig (Achtung: anders bei leitungsentscheidender KI, welche nicht zulässig sein dürfte). Allerdings ist der Einsatz eines solchen autonomen Systems risikobehaftet und das Leitungsorgan läuft in die Gefahr der Verletzung seiner Letztentscheidungskompetenz.

b) Entscheidungsvorbereitende, beratende KI-Systeme

Zu den entscheidungsvorbereitenden, beratenden Systemen gehören z.B.:

• Informationsbeschaffende KI, die Informationen „nur“ beschafft. So werden entweder anhand von Daten bestimmte Informationen (bspw. Prognosen) berechnet, oder bestimmte Informationen aus einer Vielzahl an Datensätzen herausgefiltert.
• Empfehlende KI, die Empfehlungen abgibt, ohne diese aber selbst umzusetzen. Allerdings ist das Zustandekommen der Informationen oft nicht nachvollziehbar, da das System seine zugrundeliegenden Informationen nicht offenlegt.

Der Einsatz von beratenden KI-Systemen ist allgemein zulässig. Jedoch sind auch hier einige Voraussetzungen zu beachten, um einen „sicheren“ Einsatz zu gewährleisten. Das Leitungsorgan muss jedenfalls mit dem System und seiner Funktionsweise vertraut sein und bei mangelndem Know-How ggf. Expertenrat Dritter einholen. Außerdem ist klarzustellen, dass es sich basierend auf der bloß beratenden Funktion auch nicht an die Empfehlungen des KI-Systems halten muss. Vielmehr gehört zu einem angemessenen Informationsniveau ggf. noch die Einholung anderer Informationsquellen, um eine fundierte Entscheidung zu treffen. Denn gerade auch die Unterscheidung zwischen zuverlässigen und nicht-zuverlässigen Informationsquellen und die darauf basierende Auswahl scheint aktuell noch ein erhebliches Problem einiger KI-Systeme zu sein, welche auf einen nahezu unbegrenzten Pool an Informationen zugreifen und diese verarbeiten können. Das Leitungsorgan muss eben unter allen Umständen die Letztentscheidungskompetenz haben.

Aus rechtlicher Sicht problematisch kann jedoch eine mangelnde Nachvollziehbarkeit der Beratungsergebnisse von KI-Systemen sein; schließlich setzt eine entsprechende Offenlegung der Algorithmen ein starkes Know-How in dem Bereich voraus. Es erscheint daher aktuell ausgeschlossen, dass ein KI-gestütztes Beratungsergebnis stets die einzige Informationsquelle für eine fundierte Entscheidung des Leitungsorgans sein kann, sondern stets nur ergänzend herangezogen werden sollte.

c) Exkurs: Einsatz von KI verpflichtend?

Die Sorgfaltspflicht eines ordentlichen Unternehmensleiters und die allgemeine Leitungspflicht begründen ihrerseits auch eine Pflicht, dass das Unternehmen durch das Leitungsorgan ordentlich organisiert werden muss. Hierbei besteht grds. freier Ermessens- und Gestaltungsspielraum für die Leitungsorgane, wobei je nach Unternehmensart konkrete Pflichten zum Einsatz bestimmter Technologien bestehen können. Im Hinblick auf die BJR stellt sich aber die Frage, ob der Einsatz von KI-Systemen für Leitungsorgane verpflichtend sein kann. Nochmal zur Erinnerung: für Leitungsorgane besteht dann ein haftungsfreier Ermessensspielraum, wenn es „bei einer unternehmerischen Entscheidung vernünftigerweise annehmen durfte, auf der Grundlage angemessener Informationen zum Wohle der Gesellschaft zu handeln“. Einige KI-Systeme sind heutzutage schon zweifelsohne besser für bestimmte Datenverarbeitungen geeignet als die veralteten Archiv-Methoden.

Auf dieser Grundlage lässt sich eine generelle Pflicht zum Einsatz von KI-Systemen jedoch (noch) nicht begründen. Die vielzähligen KI-Systeme sind teuer, vielfältig einsetzbar und risikobehaftet – ihr Einsatz muss also im Ermessen der Leitungsorgane entschieden werden, mit dem Recht sich gegen einen solchen Einsatz zu entscheiden. Dennoch ist die weitere Entwicklung zu beobachten; eine Pflicht zum Einsatz von KI-Systemen bei Fortentwicklung der Zuverlässigkeit scheint zumindest nicht ausgeschlossen.

3. Herausbildung spezifischer KI-Pflichten & Haftung

Weil es keine KI-spezifischen Spezialnormen zur Frage nach Pflichten der Leitungsorgane und entsprechenden Haftungsregelungen gibt, muss auf Rechtsauslegung und -ableitungen basierend auf der derzeitigen Rechtslage zurückgegriffen werden. Die konkrete Ausgestaltung von Pflichten hängt, zumindest im unregulierten Bereich, von den Umständen des Einzelfalls ab.

Im Falle der klassischen Delegation hat die Geschäftsleitung einen Mitarbeiter sorgfältig auszuwählen und einzuweisen. Da auch der KI-Einsatz als Delegation gewertet werden sollte, gilt hier ähnliches. So wandeln sich die eigentlichen Vorstandspflichten bei der klassischen Delegation in Organisationspflichten um. Um diese dann zu konkretisieren, kann u.a. auf die Verkehrspflichten aus dem Deliktsrecht (§§ 823, 831 BGB) zurückgegriffen werden - vor allem aber auf den Grundgedanken, dass derjenige, der eine Gefahrenquelle schafft, Vorkehrungen zu treffen hat, um entsprechende Risiken einzudämmen. So treffen das Leitungsorgan z.B. Auswahl-, Einweisungs- und Überwachungspflichten. Es hat sicherzustellen, dass der Delegat (also z.B. das KI-System) hinreichend qualifiziert ist und muss eine Struktur schaffen, um etwaige Fehler zu verhindern, aufzudecken und abzustellen.

3.1 Auswahlpflicht

Das Leitungsorgan muss zunächst einen für die Aufgabe geeigneten und qualifizierten Delegaten auswählen. Die Sorgfaltspflicht intensiviert sich hier je nach Verantwortung und/oder Risiken der betreffenden Aufgabe. Konkret bedeutet dies: das Leitungsorgan muss eine sorgfältige Auswahl einer für die konkrete Aufgabe passenden KI treffen. Dazu gehört z.B. auch die Grundsatzfrage, ob eine KI selbst entwickelt oder zugekauft wird. Bisher gibt es keine verfügbaren Zertifizierungsstandards, welche bei einer solchen Einschätzung helfen könnten. Daher muss sich das Leitungsorgan durch anderweitige Informationsquellen, bspw. Anbieterinformationen, unterrichten, um die entsprechende Eignung sicherzustellen.

3.2. Einweisungspflicht

KI-Systeme können im engeren Sinne zwar nicht eingewiesen werden, müssen aber an dieser Stelle einen geeigneten Kompetenzrahmen zugewiesen bekommen. Heißt: das Leitungsorgan muss dafür Sorge tragen, dass das KI-System entsprechend programmiert und trainiert wird. Dazu gehört neben einer konkreten Zielsetzung auch die Auswahl und Zugänglichmachung von passendem Datenmaterial. Hier ist sowohl auf Quantität als auch auf Qualität zu achten. Einerseits führen größere Datenmengen zu präziseren Ergebnissen, andererseits wird es bei größeren Datenmengen schwieriger, die hinreichende Qualität zu überwachen und sicherzustellen. So werden bzw. können die verwendeten Daten bei „Big Data“ nicht mehr sorgfältig überprüft werden, was eine erhebliche Fehlerquelle für Prognosen des KI-Systems darstellt. Folglich können sich Quantität und Qualität widersprechen und für die sorgfältige Einweisung des KI-Systems eine Herausforderung darstellen.

3.3. Überwachungspflicht

Auch deswegen besteht während der Trainingsphase des KI-Systems eine intensive Kontrollpflicht des Leitungsorgans, v.a. um eine möglichst sichere und gute „Einweisung“ sicherzustellen. Durch Tests wird festgestellt, ob die Funktionsweise der KI erreicht und aufrechterhalten wird. Denn auch während des Einsatzes muss das Leitungsorgan das KI-System überwachen, damit Funktionsfähigkeit und Stabilität des Systems sichergestellt werden. Dies wird durch regelmäßige Tests, stichprobenartige Überwachung und ggf. Anpassungen erfolgen. Man kann z.B. Warnsysteme implementieren, die bei Verdacht korrigierend eingreifen können. Natürlich gehören auch Updates und entsprechende Anpassungen des Algorithmus dazu, sollten sich Umstände (wie Sach- oder Rechtslage) ändern.

4. Fazit

Zwar gibt es bisher keine KI-spezifischen Regelungen, durch die Wertung des KI-Einsatzes als Delegation kann man sich jedoch gut auf die bestehende Rechtslage der Delegationsgrundsätze stützen, muss jedoch auch die Besonderheiten der Systeme und den jeweiligen Einzelfall beachten.

Zusammenfassend lässt sich feststellen, dass das Leitungsorgan durch seine Leitungsverantwortung sicherstellen muss, dass entscheidende KI-Systeme zumindest keine Leitungsentscheidungen übernehmen und die Letztentscheidungskompetenz stets bei dem Leitungsorgan liegt. Beim Einsatz von KI treffen die Leitungsorgane zudem sorgfältige Auswahl-, Einweisungs- und Überwachungspflichten.