Insgesamt 69 Partner aus 16 europäischen Ländern beteiligen sich an dem EU-geförderten Projekt, darunter auch das Fraunhofer-Institut für Experimentelles Software Engineering IESE. Innerhalb des Projektes „Product security for cross domain reliable dependable automated systems“ (SECREDAS) soll ein System entwickelt werden, das über die Weitergabe von Daten entscheiden soll.
Aufgrund der Datenverarbeitung im autonomen Fahrzeug über neuronale Netze lassen sich getroffene Entscheidungen meist nicht bis ins letzte Detail nachvollziehen. „Wir entwickeln daher einen Safety Supervisor, der die Entscheidungen des neuronalen Netzes live überwacht, so dass auf Basis dieser Bewertungen notfalls regulierend eingegriffen werden kann“, sagt Mohammed Naveed Akram, Wissenschaftler am Fraunhofer IESE. „Dieser Supervisor basiert auf Algorithmen, die sich klassische Ansätze zunutze machen. Über diese erfassen wir nicht die Gesamtsituation wie die neuronalen Netze, sondern kritische Eckpunkte.“ Im Rahmen des SECREDAS-Projekts beschäftige man sich vor allem mit der Frage nach geeigneten Metriken, die Einleitung geeigneter Gegenmaßnahmen zur Kontrolle des Risikos sei Gegenstand weiterführender Arbeiten.
Die Forscher erklären die Funktionsweise des eigenen Systems an einem Beispiel: An einer Kreuzung seien neuronale Netze darauf ausgelegt, die Gesamtsituation zu erfassen – also etwa die geltenden Verkehrsregeln, die Anzeige der Ampeln, Fußgänger im Gefahrenbereich oder kreuzende Fahrzeuge. Der Safety Supervisor setze stattdessen auf bestimmte Metriken wie beispielsweise die „General-time-to-collision“ (GTTC) also die Zeit bis zu einem Zusammenprall unter Berücksichtigung der voraussichtlichen Trajektorie oder die „Worst Case Impact Speed“-Metrik zur Beurteilung der Schadensschwere auf Basis der voraussichtlichen Kollisionsgeschwindigkeit. Steuert das Auto nun auf einen anderen Verkehrsteilnehmer zu, der dem neuronalen Netz entgangen ist, sollen die Algorithmen des Safety Supervisors erkennen, dass der Abstand zu den anderen Verkehrsteilnehmern in gefährlichem Maße schrumpft. Sie können das Kommando übernehmen und bremsen das Auto, falls die autonome Steuerung versagt.
In einer Simulation haben die Forscherinnen und Forscher die Tauglichkeit dieser Metriken für verschiedene Gefahrensituationen evaluiert. „Der Ansatz, die neuronalen Netze über klassische Ansätze jederzeit und live zu überprüfen, kann zusammen mit einem dynamischen Risikomanagement die Sicherheit deutlich erhöhen“, fasst Akram das Ergebnis zusammen.
Im Fokus von SECREDAS steht jedoch nicht nur die körperliche Unversehrtheit des Fahrers, sondern auch dessen Datensicherheit. Unter anderem bei personalisierten Einstellungen im Fahrzeug oder sogar bei erhobenen Gesundheitsdaten sei derzeit kaum nachvollziehbar, ob die Daten im Auto bleiben oder in der Cloud verarbeitet werden, so die Forscher. „One-fits-it-all ist hier daher kaum eine Lösung“, sagt Arghavan Hosseinzadeh da Silva, Software-Entwicklerin am Fraunhofer IESE. „Generell gilt: Je mehr Daten man freigibt, desto mehr Service erhält man. Wie viele Daten jemand in welchem Fall freigeben möchte, ist von Mensch zu Mensch jedoch sehr unterschiedlich.“
Unter dem Namen „Induce“ erarbeiten die Forscher daher ein Framework, über das sich die Nutzung aller persönlichen Einstellungen je nach Situation und Belieben einschränken lässt. Die erforderlichen Framework-Komponenten dazu werden ins Auto integriert. Eine Anfrage – beispielsweise, ob die Daten über die Herzfrequenz des Nutzers an die Cloud gesendet werden dürfen – läuft zunächst über den „Policy Decision Point“ (PDP) des Systems. Dieser prüft, ob sie zulässig ist. Falls ja, sendet der PDP eine Freigabe oder aber gibt die die Information weiter, welche Daten vor dem Verschicken zu löschen oder zu anonymisieren sind.
Im Rahmen von SECREDAS wollen die Forscherinnen und Forscher bis Ende 2020 einen Prototypen entwickeln. Langfristig möchte das Konsortium einen Standard für Datennutzungskontrolle für die gesamte Autobranche etablieren.