„KI-Systeme sind hochgradig von ihren Daten abhängig“

Die meisten Menschen sind ziemlich gute Autofahrer. Warum gibt man sich so viel Mühe, sie durch Maschinen zu ersetzen?
Schaut man sich aktuelle Unfallstatistiken an, kann man hinter eine solche Aussage durchaus ein Fragezeichen setzen. 2019 ist die Zahl der Verkehrstoten hierzulande zwar auf den niedrigsten Stand seit Beginn der Aufzeichnungen gesunken, trotzdem haben wir Jahr für Jahr allein in Deutschland noch immer über 3000 Tote zu beklagen. Hier spielt der Dunning-Kruger-Effekt eine Rolle: 90 Prozent der Autofahrer bewerten ihr Fahrkönnen besser als der Durchschnitt. Trotzdem kracht es täglich auf unseren Straßen. Laut der Verkehrsunfallstatistiken in der EU ist menschliches Versagen für 95 Prozent aller Verkehrsunfälle verantwortlich: Man telefoniert am Steuer, schaut auf das Smartphone-Display, wenn WhatsApp-Nachrichten reinkommen, oder navigiert mit Google Maps an sein Reiseziel. Fahrer sind unkonzentriert und abgespannt. All diese menschlichen Einschränkungen existieren in einem autonom fahrenden Auto nicht: Es befindet sich immer im selben Wahrnehmungszustand – egal, ob sie morgens um sieben Uhr einsteigen oder sich spät nachts nach Hause chauffieren lassen. Sensoren werden nicht müde, lassen sich nicht von Kinderschreien auf dem Rücksitz ablenken und sind auch nicht alkoholisiert.

Aber die Sensortechnik muss verlässlich mit unterschiedlichen Umgebungssituationen klar kommen …
Natürlich. Bei Sonnenschein im Sommer müssen Sensoren genauso präzise funktionieren wie bei starkem Schneefall im Winter. Das System muss selbständig erkennen, wann es in der Lage ist, das Fahrzeug besser und zuverlässiger als der Mensch zu führen und wann es Zeit ist, die Fahrfunktion – wenn nötig – an den Menschen wieder zu übergeben. Diese Situationseinschätzung ist eine große Herausforderung. Ein Riesenunterschied ist, dass ein System in Millisekunden reagieren kann und keine Schrecksekunde hat wie ein Mensch. Diese Sekunde kostet bei einer Geschwindigkeit von 100 km/h schon 30 Meter Bremsweg. Stimmen die Parameter, arbeitet die Technologie um ein Vielfaches zuverlässiger und konstanter als jeder menschliche Fahrer. Die Systeme müssen wissen, wann sie im Vorteil sind – sei es bei vergleichsweise einfachen Szenarien wie auf einer Autobahn mit geradem Streckenverlauf oder auf einem Werksgelände ohne externe Einflüsse wie Publikumsverkehr.

Um KI-Systeme anzulernen, wird oft auf eine historisch gewachsene Datenlage zurückgegriffen. Kann es problematisch sein, wenn die Daten nicht objektiv oder gar fehlerbehaftet sind?
So ist es. KI-Systeme sind hochgradig von ihren Daten abhängig. In der klassischen Programmierung bestimmen bedingte Anweisungen und Verzweigungen die Kontrollstrukturen eines Systems. Lernt ein System über Daten, werden genau diese manuell erstellten Programmabschnitte durch selbstgelernte neuronale Netzstrukturen ersetzt, die allerdings häufig eine Blackbox sind. Ein Beispiel: Kommen in kritischen Situationstrainings nur rotlackierte Testfahrzeuge zum Einsatz, wird das System sein Verhalten darauf abstimmen und die rote Farbe als mögliches Kriterium heranziehen, obwohl es irrelevant ist. Als Extrembeispiel: Ein Fahrzeug muss mit dem Elefant auf der indischen Landstraße genauso wie mit der deutschen Autobahn ohne Tempobeschränkung zurechtkommen und entsprechend reagieren. Wer im Machine Learning nicht eine unglaubliche Zahl unterschiedlicher Szenarien in diversen Ausprägungen betrachtet und simuliert, handelt fahrlässig.

Was sind nach Ihrer Einschätzung aktuell die größten Bremsklötze auf dem Weg zu einem teilautomatisierten und autonomen Straßenverkehr?
Über die wechselnden Wetterbedingungen und Straßenverhältnisse, die Sensoren vor Schwierigkeiten stellen, haben wir bereits gesprochen. Das sind technische Probleme, das wir irgendwann lösen werden. Zudem gibt es bezüglich Regulatorik und Gesetzgebung und Standards noch viele Fragezeichen. Wir müssen aber auch bereit dazu sein, uns tatsächlich auf das autonome Fahren einzulassen. Hier gibt es nach wie vor große Vorbehalte. Es ist zum Beispiel gesellschaftlich akzeptiert, dass menschliche Autofahrer Fehler begehen – letztlich ist das der Grund dafür, weshalb jeder von uns eine Teil- oder Vollkaskoversicherung abschließt. Die Fehlertoleranz, die wir bereit sind, einem autonom fahrenden Auto zuzugestehen, liegt um ein Vielfaches niedriger. Bei den Unfällen mit Fahrassistenzsystemen von Tesla oder Uber war das globale Medienecho vernichtend, während der gleiche Unfall bei menschlichem Versagen nicht mal in der lokalen Tageszeitung aufgetaucht wäre. Nur allzu oft schwingt in der Diskussion die Einschätzung mit, einem selbst würden solche Fehler am Steuer niemals unterlaufen – ein Irrtum, wie die offiziellen Unfallstatistiken belegen.