Deutsche Ethikkommission und das autonome Fahren

Es hat einige Zeit gedauert, aber nun wird auch in Deutschland eifrig zu autonomen Autos diskutiert. Während alleine in Kalifornien mittlerweile 36 Unternehmen eine Lizenz der Verkehrsbehörden haben selbstfahrende Autos auf öffentlichen Straßen zu testen, und Senatoren sechs Prinzipien für die Regulierung und Entwicklung von autonomen Fahrzeugen haben, erhielt beispielsweise Mercedes erst vor Weihnachten letzten Jahres eine Erlaubnis selbstfahrende Autos in Stuttgart zu testen.

Doch jetzt wird dieses Thema auch in Deutschland ernst genommen. Letztes Anzeichen ist der Bericht den die deutsche Ethik-Kommission Automatisiertes und Vernetztes Fahren vor einigen Tagen vorlegte. Und alleine die Tatsache, dass es diesen Bericht gibt zeigt uns zwei Dinge: man beschäftigt sich damit und man zeigt auch die Prioritäten.

Zuerst mal ist Deutschland mit diesem Bericht Vorreiter, wie mit autonomen Systemen in der Öffentlichkeit umgegangen werden soll und wie sie betrachtet werden müssen. Das inkludiert selbstverständlich wie diese Systeme bei Unfällen die zu Personenschaden führen können zu reagieren haben.

Dann aber wiederum zeigt es den Fokus und Umgang damit in Deutschland: und dieser ist vor allem Angst und Risikovermeidung getrieben. In Deutschland im Speziellen und Europa im Allgemeinen werden bei neuen Technologien vorerst mal die Gefahren gesehen. Selbst sehr abstrakte und rein theoretische Randprobleme wie das Trolley-Problem werden mit einer Ausführlichkeit diskutiert, die in keinem Verhältnis zur Auftrittshäufigkeit stehen. Und schaffen damit erst die eigentlichen ethischen Probleme.

In Arbeitsgruppen wurden für den Bericht fünf Themenschwerpunkte behandelt. Diese waren:

  1. Arbeitsgruppe 1: „Unvermeidbare Schadenssituationen“
  2. Arbeitsgruppe 2: „Datenverfügbarkeit, Datensicherheit, Datenökonomie“ – Fragen betreffend die beim automatisierten und vernetzten Fahren anfallenden Daten
  3. Arbeitsgruppe 3: „Interaktionsbedingungen für Mensch und Maschine“ – Schnittstelle zwischen Mensch und Technik
  4. Arbeitsgruppe 4: „Ethische Kontextbetrachtung über den Straßenverkehr hinaus“ – Technologie des automatisierten und vernetzten Fahrens im Kontext weiterer (vernetzter) Technologien
  5. Arbeitsgruppe 5: „Verantwortungsreichweite für Software und Infrastruktur“ – Verantwortlichkeiten für entwicklungsoffene Systeme

Die Kommission setzte sich dabei aus Vertretern der Wirtschaft, Behörden, Religion, Interessenverbänden und Universitäten zusammen.

Das Ergebnis sind 20 Ethische Regeln für den automatisierten und vernetzten Fahrzeugverkehr, die als Richtlinien für die weitere Vorgehensweisen

  1. Teil- und vollautomatisierte Verkehrssysteme dienen zuerst der Verbesserung der Sicherheit aller Beteiligten im Straßenverkehr.
  2. Der Schutz von Menschen hat Vorrang vor allen anderen Nützlichkeitserwägungen. Ziel ist die Verringerung von Schäden bis hin zur vollständigen Vermeidung.
  3. Die Gewährleistungsverantwortung für die Einführung und Zulassung automatisierter und vernetzter Systeme im öffentlichen Verkehrsraum obliegt der öffentlichen Hand.
  4. Die eigenverantwortliche Entscheidung des Menschen ist Ausdruck einer Gesellschaft, in der der einzelne Mensch mit seinem Entfaltungsanspruch und seiner Schutzbedürftigkeit im Zentrum steht.
  5. Die automatisierte und vernetzte Technik sollte Unfälle so gut wie praktisch möglich vermeiden.
  6. Die Einführung höherer automatisierter Fahrsysteme insbesondere mit der Möglichkeit automatisierter Kollisionsvermeidung kann gesellschaftlich und ethisch geboten sein, wenn damit vorhandene Potentiale der Schadensminderung genutzt werden können.
  7. In Gefahrensituationen, die sich bei aller technischen Vorsorge als unvermeidbar erweisen, besitzt der Schutz menschlichen Lebens in einer Rechtsgüterabwägung höchste Priorität.
  8. Echte dilemmatische Entscheidungen, wie die Entscheidung Leben gegen Leben sind von der konkreten tatsächlichen Situation unter Einschluss „unberechenbarer“ Verhaltensweisen Betroffener abhängig. Sie sind deshalb nicht eindeutig normierbar und auch nicht ethisch zweifelsfrei programmierbar.
  9. Bei unausweichlichen Unfallsituationen ist jede Qualifizierung nach persönlichen Merkmalen (Alter, Geschlecht, körperliche oder geistige Konstitution) strikt untersagt.
  10. Die dem Menschen vorbehaltene Verantwortung verschiebt sich bei automatisierten und vernetzten Fahrsystemen vom Autofahrer auf die Hersteller und Betreiber der technischen Systeme und die infrastrukturellen, politischen und rechtlichen Entscheidungsinstanzen.
  11. Für die Haftung für Schäden durch aktivierte automatisierte Fahrsysteme gelten die gleichen Grundsätze wie in der übrigen Produkthaftung.
  12. Die Öffentlichkeit hat einen Anspruch auf eine hinreichend differenzierte Aufklärung über neue Technologien und ihren Einsatz.
  13. Ob in Zukunft eine dem Bahn- und Luftverkehr entsprechende vollständige Vernetzung und zentrale Steuerung sämtlicher Kraftfahrzeuge im Kontext einer digitalen Verkehrsinfrastruktur möglich und sinnvoll sein wird, lässt sich heute nicht abschätzen.
  14. Automatisiertes Fahren ist nur in dem Maße vertretbar, in dem denkbare Angriffe, insbesondere Manipulationen des IT-Systems oder auch immanente Systemschwächen nicht zu solchen Schäden führen, die das Vertrauen in den Straßenverkehr nachhaltig erschüttern.
  15. Erlaubte Geschäftsmodelle, die sich die durch automatisiertes und vernetztes Fahren entstehenden, für die Fahrzeugsteuerung erheblichen oder unerheblichen Daten zunutze machen, finden ihre Grenze in der Autonomie und Datenhoheit der Verkehrsteilnehmer.
  16. Es muss klar unterscheidbar sein, ob ein fahrerloses System genutzt wird oder ein Fahrer mit der Möglichkeit des „Overrulings“ Verantwortung behält.
  17. Software und Technik hochautomatisierter Fahrzeuge müssen so ausgelegt werden, dass die Notwendigkeit einer abrupten Übergabe der Kontrolle an den Fahrer („Notstand“) praktisch ausgeschlossen ist
  18. Lernende und im Fahrzeugbetrieb selbstlernende Systeme sowie ihre Verbindung zu zentralen Szenarien-Datenbanken können ethisch erlaubt sein, wenn und soweit sie Sicherheitsgewinne erzielen.
  19. In Notsituationen muss das Fahrzeug autonom, d.h. ohne menschliche Unterstützung, in einen „sicheren Zustand“ gelangen.
  20. Die sachgerechte Nutzung automatisierter Systeme sollte bereits Teil der allgemeinen digitalen Bildung sein.

Aus diesen Punkten ist zu erkennen, dass die Kommission nicht in die Trolley-Falle lief. Solche Situationen sollen von vornherein bereits vermieden werden. Auch wenn die Eigenbestimmung des Menschen im Vordergrund steht, so kann gemäß diesen Berichtes Selbstfahrtechnologie durch den Gesetzgeber aus ethischen Gründen vorgeschrieben und damit implizit manuelles Fahren verboten werden. Da der Schutz menschliches Leben höchste Priorität hat, könnte sich der Gesetzgeber sogar sehr rasch dazu gezwungen sehen. Vor allem wenn die ersten Vergleichsdaten vorliegen und automatisierte Systeme zeigen, dass sie um ein Vielfaches sicherer sind als menschliche Fahrer.

Auch darf bei solchen Systemen nicht zwischen Menschen unterschieden werden, also wer in einem Unfallszenario bevorzugt geschützt oder geschädigt wird. Es gilt der Gleichheitsgrundsatz. Die Schuldfrage verschiebt sich vom Fahrer auf die Hersteller. Das bedeutet für die Regulierungsbehörden, dass sie sich die Fähigkeiten aneignen müssen, solche Fälle zu bewerten und forensische Analyse zu betreiben.

Cybersecurity und die Sicherheit solcher Systeme gewinnt an Bedeutung. Angesichts der immer wieder passierenden Cyberattacken gegen Unternehmen, Parteien und Einrichtungen ist das eine wichtiger Punkt, bei dem wir uns die Kompetenzen aneignen müssen.

Die mit solchen Fahrzeugen erstellten Daten sollen in der Datenhoheit der Verkehrseilnehmer bleiben. Das ist ein Punkt der uns schon im Vorhinein wirtschaftlich behindern kann. Deutschland hat die digitale Revolution verschlafen. Es hat außer mit SAP kein relevantes Unternehmen in dieser Industrie hervorgebracht. Die fünf größten amerikanischen Unternehmen stammen alle aus dem digitalen Bereich und sind doppelt so viel wert, als alle DAX 30 Unternehmen zusammen genommen. Damit besteht die Gefahr, dass Deutschland an einem Geschäftszweig, den McKinsey für das Jahr 2030 mit 750 Milliarden Dollar Volumen vorhersagt, nicht beteiligt sein wird. Darf man die Daten nicht verwenden, verhindert man damit auch die Verbesserung der Systeme. Deutschland gerät technologisch ins Hintertreffen.

Auch sollen Fahrzeuge die den Eingriff von Menschen benötigen klar gekennzeichnet werden, und wenn ein solcher Eingriff notwendig ist er den Menschen nicht abrupt, sondern zeitgerecht mitgeteilt wird.

Interessant ist auch der letzte Punkt, der auf digitale Bildung eingeht. Richtig interpretiert sollen die Menschen schon in der Ausbildung den Umgang mit digitalen Systemen und Maschinen lernen und somit abschätzen können. Angesichts der heutigen heftig geführten Diskussion, ob beispielsweise Programmieren als Schulfach eingeführt werden soll ein wahrer Meilenstein.

Nicht behandelt wurde, was nun die nächsten Schritte sein sollen. Wie sollen Regulierungsbehörden nun vorgehen, unter welchen Kriterien sollen Testlizenzen vergeben werden und dabei den Spagat zwischen Sicherheit und technischen Fortschritt zu machen. Auch zum Thema Standards, also beispielsweise dem Austausch von sicherheitsrelevanten Daten zwischen den Herstellern, geht der Bericht nicht ein.

Conclusio

Es handelt sich um einen ersten Bericht zum Thema autonomen Fahren, der erste Richtlinien gibt und Fragen beantwortet oder zumindest aufwirft. Konkret fehlen Vorgaben, wie nun weiter vorzugehen sei, und wie Hersteller und Öffentlichkeit damit umgehen sollen. Das sollte zügig gemacht werden, will man Einfluss auf den technologischen Fortschritt ausüben und nicht durch beispielsweise Kalifornien und die USA diktieren lassen.

UND: ich würde mir solch eine Ethik-Kommission auch für Elektrofahrzeuge und Verbrenner wünschen. Im vorliegenden Bericht steht die Sicherheit von Menschen stark im Vordergrund. Die Diskussion um das Verbot von Dieselfahrzeugen und Verbrennern im Allgemeinen sollte das auch mal aus dieser Perspektive betrachten. Können wir aus ethischen Gründen Verbrenner eigentlich noch gerechtfertigen?

Dieser Beitrag ist auch auf Englisch erschienen.

Hinterlasse eine Antwort

Trage deine Daten unten ein oder klicke ein Icon um dich einzuloggen:

WordPress.com-Logo

Du kommentierst mit Deinem WordPress.com-Konto. Abmelden / Ändern )

Twitter-Bild

Du kommentierst mit Deinem Twitter-Konto. Abmelden / Ändern )

Facebook-Foto

Du kommentierst mit Deinem Facebook-Konto. Abmelden / Ändern )

Google+ Foto

Du kommentierst mit Deinem Google+-Konto. Abmelden / Ändern )

Verbinde mit %s