Unternehmenssicherheit 2018 - Haftung von autonomen Systemen

Autos, Drohnen, Haushaltsroboter und andere Maschinen werden immer intelligenter. Autos sollen in naher Zukunft autonom durch den Verkehr steuern. Roboter in der Produktion entwickeln sich zu flexiblen Helfern und arbeiten gemeinsam mit ihren menschlichen Kollegen. Drohnen fliegen und erledigen Aufgaben. Autonome Systeme werden komplexe Aufgaben lösen, lernen, eigene Entscheidungen treffen und auf unvorhersehbare Ereignisse reagieren. Wann diese Systeme Realität werden, lässt sich nicht vorhersagen. Jedoch hat die künstliche Intelligenz in den letzten vier bis fünf Jahren gewaltige Fortschritte gemacht. Daher ist damit zu rechnen, dass in den nächsten fünf bis zehn Jahren autonome Systeme serienmäßig angeboten werden. Es gehört nicht viel Phantasie zu der Prognose, dass neue Technologien (ebenso wie frühere Technologien) fehleranfällig und Verursacher von Schäden sind. Wer ist verantwortlich? Der Hersteller, der Entwickler der Algorithmen oder der Nutzer oder alle gemeinsam?

Dem technischen Fortschritt hinkt die Gesetzgebung hinterher. Zwar wurde aktuell durch die Bundesregierung ein Gesetzesentwurf zur Änderung der Straßenverkehrsordnung veröffentlicht, um die rechtlichen Rahmenbedingungen für das automatisierte Fahren zu schaffen. Nach diesem Gesetzesentwurf dürfen künftig solche Autos auf den Straßen fahren, die für eine bestimmte Zeit und in bestimmten Situationen die Kontrolle über das Fahrgeschehen. Dagegen regelt der Gesetzesentwurf nicht das sogenannte autonomes Fahren; also das System übernimmt das Auto vollständig vom Start bis an das Ziel und sämtliche im Fahrzeug befindlichen Personen sind nur Passagiere. Die mangelnde Regelung des autonomen Fahrens kann wohl nur damit begründet werden, dass dies für den Gesetzgeber wohl noch zu ferne Zukunftsmusik ist.

Egal, ob Fahrzeuge automatisiert oder autonom betrieben werden, ergibt sich daraus eine Vielzahl von Fragen. Als im Jahre 1886 zum ersten Mal Carl Benz sein Motorwagen durch Mannheim fährt, denkt wohl niemand an die Risiken durch die neue Art der Fortbewegung. Die Haftpflicht des Halters ist lange kein Thema. Doch die Anzahl der Unfälle steigt rasant, so dass bereits im Jahre 1909 die sogenannte Gefährdungshaftung für Kraftfahrzeughalter eingeführt wird und im Jahre 1939 es zu einer Pflichtversicherung für Kraftfahrzeughalter kommt.

Wenn zukünftig der Fahrzeugführer von seinen Aufgaben als Fahrzeuglenker mehr und mehr durch automatische Systeme unterstützt und in der letzten Konsequenz durch automatisierte Systeme vollständig ersetzt wird, stellt sich die Frage, wer haftet, wenn es zu einem Unfall kommt. Bleibt es weiterhin bei der Haftung des Kraftfahrzeughalters? Oder muss es nicht vielmehr zu einer Verschiebung der Halterhaftung hin zu einer Herstellerhaftung kommen? Denn schließlich ist der Hersteller dafür verantwortlich, dass sein Produkt fehlerfrei funktioniert. Der Fahrzeughalter hat ja keinen Einfluss darauf, dass die Fahr- und Assistenzsystem situationsadäquat funktionieren. Somit wird es zu einer Verschiebung weg von der Halterhaftung hin zu einer Herstellerhaftung kommen müssen. Aus diesem Gedanken ergibt sich eine Vielzahl von Folgeproblemen. Muss nicht bei der Berechnung der zukünftigen Versicherungstarife berücksichtigt werden, ob und wie häufig ein Nutzer auf Fahr- und Assistenzsystem zurückgreift?

Die oben skizzierten Fragestellungen tauchen auch im Zusammenhang mit anderen autonomen Systeme, z.B. Drohnen, Haushaltsrobotern und anderen Systemen auf. In nahezu allen Fällen gibt es dafür keine spezielle gesetzliche Regelung. Es ist also unklar wer für die Schäden haftet, die durch den Einsatz solcher autonomer Systeme entstehen. Mangels spezieller gesetzlicher Regelung bleibt es bei der verschuldensabhängigen Haftung nach § 823 BGB. Diese setzt ein fahrlässiges oder vorsätzliches Handeln voraus. Im Rahmen der Haftung nach § 823 BGB haftet der Hersteller von autonomer Systeme nicht für Konstruktionsfehler, sondern auch für Produktions- oder Fabrikationsfehler. Neben der verschuldensabhängigen Haftung gibt es für den Hersteller, Importeuer und den Lieferanten eine verschuldensunabhängige Haftung nach dem Produktsicherheitsgesetz. Danach müssen Hersteller, Importeur und Lieferant für Schäden einstehen, die fehlerhafte Produkte (dazu gehört auch Software) verursachen.

Daneben trifft den Hersteller autonomer Systeme eine Produktbeobachtungspflicht. Das bedeutet, dass der Hersteller gegebenfalls selbst dann haftet, wenn das autonome System nach dem aktuellen Stand von Wissenschaft und Technik einwandfrei ist, sich aber zu einem späteren Zeitpunkt ein Fehler zeigen sollte. Daneben hat der Hersteller autonomer Systeme auch eine Marktbeobachtungspflicht hinsichtlich der Kombination des eigenen Produktes mit Produkten anderer Hersteller.

Eine generelle Aussage zum Umfang der Produktbeobachtungs- und Marktbeobachtungspflicht kann nicht getroffen werden. Diese hängt von dem konkreten Produkt, Anwendungsbereich und Verbreitungsgrad ab. Gerade bei autonomen Systemen ist aber von einer dichteren Produktbeobachtungs- und Marktbeobachtungspflicht auszugehen, da diesbezüglich auf einigen geringen Erfahrungsschatz zurückgegriffen werden kann.

Sollten Sie Fragen im Zusammenhang mit der Haftung von autonomen Systemen haben, dann rufen Sie uns gerne an.