Learning by Crashing

Unfälle autonomer Autos

Jede Technologie bringt, so eine berühmte These Paul Virilios, ihren eigenen Unfall hervor – eine spezifische Art des unintendierten Zwischenfalls mit katastrophalen Folgen, dessen Möglichkeitsbedingungen mit jeder neuen Technologie neu abgesteckt werden. »Das private Automobil zu erfinden, bedeutet die Produktion der Massenkarambolage auf der Autobahn.«1 Virilio zufolge ist die westliche Welt seit der Industriellen Revolution von der Heimsuchung durch das systemische Risiko der Anwendung ihrer Technologien und die apokalyptische Vision des finalen Unfalls geprägt. Der »integrale Unfall« unterscheidet sich von dem, was Virilio als »originalen Unfall« bezeichnet, dadurch, dass er bereits erwartet wird, weil das Risiko der Verwendung der betreffenden Technologie gesellschaftlich akzeptiert ist.

Keine andere Großtechnologie ist für so viele Unfälle und Katastrophen verantwortlich wie das Auto. Rund ein Fünftel des globalen CO2-Ausstoßes und 1,3 Millionen Verkehrstote weltweit pro Jahr – genug Anlässe also, weiteres Unheil zu verhindern. Kaum eine andere Industrie investiert so viel, um Unfälle zu verhindern. Bevor ein neues Automodell auf den Markt kommt, sind Dutzende Exemplare auf jede nur erdenkliche Weise verunfallt worden. Das Auto ist eine Technologie, die Unfälle zugleich generiert und verhindert.

Die Vision des unfallfreien Straßenverkehrs in einer »era of crash-free roadways through deployment of innovative lifesaving technologies« hat in den letzten Jahren besonders vor dem Hintergrund der Automatisierung an Evidenz gewonnen.2 Die gesellschaftliche Akzeptanz verkehrsbedingter Todesfälle sinkt kontinuierlich, während die generelle Skepsis am bestehenden System der fossilen Automobilität steigt.3 Die Einführung autonomer Autos wird von den Protagonisten der Industrie als Lösung jener Probleme beschrieben, die das System der Automobilität selbst hervorgerufen hat.4 Während zahlreiche Hersteller immer bessere »Advanced Driver Assistance Systems« (ADAS) in konventionelle Fahrzeuge integrieren und so schrittweise Aufgaben des Fahrers durch autonome Teilsysteme ersetzen, darf Waymo, eine Unterfirma von Google, seit 2018 in Arizona und Kalifornien autonome Fahrservices ohne Sicherheitsfahrer anbieten. Ob und in welcher Form autonome oder semi-autonome Fahrzeuge jemals in der Lage sein werden, flächendeckend alle Verkehrssituationen zu bewältigen, ist zwar nicht absehbar, doch der integrale Unfall dieser Technologien ist bereits in der Welt.

Semi-autonome und autonome Autos sind Maschinen zur Unfallverhinderung. Alle ihre technischen Systeme, von Abstandshaltern, Spurhalteassistenten, Tempomaten und Autopiloten bis zu Einparkhilfen, Airbags und Notrufsystemen, sind auf die Vermeidung oder zumindest Abschwächung von Unfällen ausgerichtet. Den Prozeduren der Unfallvermeidung wohnt jedoch ein neues Unfallpotential inne. Die Notwendigkeit und die Verhinderung von Unfällen sind – über Virilio hinaus – dialektisch verschränkt.

Verkehr als Labor

Um das unerreichbare, aber imaginativ leitende Ziel der völligen Vermeidung von Unfällen zu erreichen, sind Unfälle nötig, die allerdings nicht mehr zu verhindernde Zwischenfälle darstellen, sondern Lernmöglichkeiten. Während der Unfall für Virilio die Negativität der Technologie ist, verwandeln sich bestimmte Unfälle heute in eine Positivität der Datensammlung.5 Jeder Unfall generiert Wissen und ist ein Anlass, durch die Erforschung des Unfalls zukünftige Unfälle zu vermeiden.

Autonome Autos und Fahrassistenzsysteme sind ständig in need for updates und werden nie als fertige Produkte ausgeliefert.6 Die Regeln ihres Verhaltens in komplexen Situationen sind nicht nur vorprogrammiert, sondern werden ständig optimiert. Eine Verbesserung ihrer Kategorisierungsalgorithmen, Entscheidungsmodule und Sicherheitsroutinen geschieht auf der Grundlage von Prozessen des machine learning, die von den Herstellern anhand der von Testfahrzeugen gesammelten Daten zentral in Rechenzentren durchgeführt werden.7 Die zur Optimierung notwendigen Daten lassen sich nur bedingt in kontrollierten Testumgebungen erheben wie bei den vorgeschriebenen, streng regulierten Sicherheitstests klassischer Fahrzeuge. Nur der reale Straßenverkehr bietet die zur Optimierung notwendige Komplexität und Unvorhersagbarkeit.

Die Daten vor allem über Ausnahmesituationen, die extrem selten vorkommen, müssen in the wild gesammelt werden. So konnten etwa die Testfahrzeuge von Waymo schon 2015 die meisten Straßensituationen lösen. Und doch waren drei weitere Jahre an Testfahrten und Simulationen nötig, um in streng begrenzten, exakt kartografierten Gegenden sowohl den Sicherheits- als auch den Geschwindigkeitsansprüchen zu genügen. Die Durchsetzung von machine learning im Straßenverkehr – oder vielmehr die Nutzbarmachung des Straßenverkehrs für machine learning – verwandelt somit jede Straßenszene in Unterricht. Für die beteiligten Menschen ist ein Autounfall ein mitunter existentielles Ereignis, für ein autonomes Auto beziehungsweise dessen Hersteller eine Möglichkeit des Lernens. Ohne dieses Lernen wäre operationale Autonomie mit dem aktuellen Stand der Technik unmöglich.8 Die Welt, durch die das Auto fährt, wird zum Labor und der öffentliche Verkehr zum privaten Experimentalsystem.