Erste Hintergründe zur ausgefallenen Robotaxiflotte in San Francisco

Nach einem Systemausfall bei Cruise, bei der über mindestens zwei Stunden eine Kreuzung in San Francisco von gut einem Dutzend Robotaxis blockiert worden war, bevor sie von Cruise-Angestellten dann manuell oder ferngesteuert weggefahren werden konnten, werden weitere Details bekannt.

Zuerst mal gab Cruise in einer Pressenotiz folgende, eher vage Auskunft:

Anfang dieser Woche gab es ein Problem, das dazu führte, dass sich einige unserer Fahrzeuge zusammenballten. Das Problem wurde zwar behoben und es waren keine Fahrgäste betroffen, aber wir entschuldigen uns bei allen, die davon betroffen waren.

In weiteren Meldungen wird aber klar, dass es weder das erste Mal passiert ist, noch dass ein solches Verhalten der Fahrzeuge unvorhersehbar war. Ein Twitter-Benutzer zeigte Videos und Bilder von einem Vorfall etwa eine Woche früher, auf denen drei bis vier Cruise-Fahrzeuge in solch einer paralysierten Situation zu sehen sind:

Wie zu sehen ist stehen die Fahrzeuge recht verstreut auf der Straße, und blockieren damit die eine Fahrrichtung. Bilder vom Inneren der Fahrzeuge zeigen auf dem Display die Sätze:

Anhalten bis zum sicheren Halt

und

Auf Ihrer Fahrt ist etwas passiert. Ein Support-Spezialist wird Ihnen erklären, was Sie als nächstes tun müssen.

TOTSCHLARGUMENTE FÜR ANFÄNGER

Ob Corona-Impfung oder Tempolimit, Erbschaftsteuer oder Aktienrente: Debattierfreudige Zeitgenossen finden in diesen Zeiten Themen en masse. Manche wollen wirklich debattieren, überzeugen und auch lernen. Andere sind da eher simpler gestrickt und erklären jeden, der nicht ihrer Meinung ist, für dumm, ungebildet oder einfach einen schlechten Menschen. Und eine dritte Spezies hat die Kunst des Totschlagarguments perfektioniert – und erstickt damit die meisten Diskussionen schnell in betretenem Schweigen. Floskeln von „Das haben wir schon immer so gemacht“ bis hin zu „Das trifft wieder nur den kleinen Mann“ begleiten uns zuhauf. Wie sie funktionieren, was man dagegen tun kann – und wie man sie im Notfall auch selber nutzt –, erklärt der Autor von „Sorry not sorry“ augenzwinkernd in diesem Buch.

Ab sofort erhältlich im Buchhandel, beim Verlag und bei Amazon.

Auch wird eine Telefonnummer für Einsatzkräfte angezeigt, die diese anrufen sollen, um die Situation zu bereinigen. Unter der Nummer steht dann auch, dass der Selbstfahrmodus ausgeschaltet wurde.

Laut diesem Twitter-Benutzer standen die Fahrzeuge mindestens 15 Minuten lang so dort, und gelegentlich fuhren die Fahrzeuge kurz an, so als ob sie versuchen würden, „aus der Situation herauszukommen“.

Ein anonymer reddit-Benutzer, der laut eigenen Aussagen bei Cruise arbeitet, teilte seine schon früher artikulierten Bedenken. Er habe schon bei der Erteilung der kommerziellen Robotaxilizenz im Mai diese an die zuständige Behörde California Public Utility Commision CPUC geäußert, die bei der Fahrzeugübernahme geschehen:

In der Nachricht wird die Art der „Vehicle Retrieval Events“ VRE (Anm: Ereignisse bei der Fahrzeugübernahme) beschrieben, wie sie am 28. Juni, am 20. Juni und mehrfach davor aufgetreten sind und die dazu führen können, dass Dutzende von Fahrzeugen öffentliche Straßen blockieren, bis sie physisch zurückgeholt werden, und warum ich glaube, dass diese Ereignisse in absehbarer Zukunft häufig auftreten werden, auch wenn die Betriebszeiten der fahrerlosen Flotte auf die morgendlichen und abendlichen Hauptverkehrszeiten ausgeweitet werden. Abgesehen von den offensichtlichen Problemen, die eine große Anzahl von Fahrzeugen mit sich bringt, die den Verkehr blockieren, besteht eine der besorgniserregenderen Möglichkeiten darin, dass diese Fahrzeuge Einsatzfahrzeuge wie Krankenwagen und Feuerwehrfahrzeuge blockieren.

Er gibt dann einige Gründe an, wie es zu diesen Situation kommen kann:

Häufig dauert es mehrere Stunden, bis die Gründe für diese flottenweiten Vehicle Retrieval Events ermittelt sind. Wenn ein Fahrzeug in diesen Zustand gerät, kann das an einem Hardware- oder Softwareproblem liegen. Wenn viele Fahrzeuge in den VRE-Zustand eintreten, liegt es daran, dass einer der vielen Cloud-Dienste, mit denen die Fahrzeuge interagieren, ausgefallen oder überlastet ist. Es gab auch Fälle, in denen sowohl die primären als auch die Backup-Dienste ausgefallen sind, so dass es keine Möglichkeit gab, mit den Fahrzeugen zu kommunizieren oder Informationen von ihnen zu erhalten, was direkt gegen die Bedingungen der DMV-Genehmigung (Anm.: Department of Motor Vehicles – Kalifornische Verkehrsbehörde) verstößt, die Cruise den Betrieb auf öffentlichen kalifornischen Straßen erlaubt, und ich bezweifle stark, dass Cruise dies dem DMV gemeldet hat. Es wird erwartet, dass diese Cloud-Dienste mit der Zeit zuverlässiger werden, aber es handelt sich um hochkomplexe, emergente Systeme, die miteinander interagieren, und es gibt keine einfache, schnelle Lösung. Bei komplexen Technologien dieser Art muss man in der Regel entweder quälend langsam vorgehen (man denke an die Luft- und Raumfahrtindustrie) oder „schnell vorgehen und Dinge kaputt machen“.

Er fügt dann noch weitere Kommentare zur Firmenkultur bei Cruise hinzu, über die wir hier schon einmal geschrieben haben:

Subjektiv empfinde ich Cruise als ein äußerst chaotisches Umfeld, in dem sicherheitsrelevante Diskussionen routinemäßig unterbunden werden, weil sie dem Narrativ der Unternehmensleitung widersprechen, „eine Ablenkung darstellen“ und „die Moral senken“ – die beiden zweiten Zitate habe ich direkt von der Geschäftsleitung und den Führungskräften des Unternehmens gehört.

Ich freue mich, dass dieses Thema mehr Aufmerksamkeit erhält, und hoffe im Interesse der Sicherheit der Einwohner von San Francisco, dass sowohl Cruise als auch Regulierungsbehörden wie die CPUC die entsprechenden Maßnahmen ergreifen, um die öffentliche Sicherheit zu gewährleisten.

Es kann angenommen werden, dass es weiterhin zu solchen Situationen kommen wird, die aufgrund ihrer Komplexität nicht einfach zu lösen sind. Das kann, wie der Poster schon sagte, zu Problemen mit Einsatzfahrzeugen und generell mit Verkehr führen, wenn Straßenzüge blockiert werden. Wenn solche Robotaxiflotten nicht nur ein paar Dutzend, sondern tausende Fahrzeuge umfassen, kann damit rasch eine ganze Stadt und Region lahmgelegt werden.

FUTURE ANGST

Welche aktuellen Ängste prägen uns? Mit welchen Ängsten waren die Menschen in der Vergangenheit konfrontiert, als es die heutigen Technologien noch nicht gab? Warum mischen wir heute im Wettbewerb der Kulturen um neue Technologien nicht ganz vorne mit? Welche Maßnahmen müssen wir ergreifen, um neue Technologien nicht als etwas Beängstigendes und Feindseliges zu betrachten, sondern als ein Mittel zur Lösung der großen Probleme der Menschheit?

Ab sofort erhältlich im Buchhandel, beim Verlag und bei Amazon.

Dieser Beitrag ist auch auf Englisch erschienen.

4 Kommentare

Hinterlasse eine Antwort

Trage deine Daten unten ein oder klicke ein Icon um dich einzuloggen:

WordPress.com-Logo

Du kommentierst mit Deinem WordPress.com-Konto. Abmelden /  Ändern )

Twitter-Bild

Du kommentierst mit Deinem Twitter-Konto. Abmelden /  Ändern )

Facebook-Foto

Du kommentierst mit Deinem Facebook-Konto. Abmelden /  Ändern )

Verbinde mit %s