
Im AI Lab arbeiten KI-Experten aus den TÜV-Organisationen an praktischen Prüfszenarien.
Im TÜV AI Lab werden KI-Experten aus den TÜV-Organisationen an praktischen Prüfszenarien arbeiten. So könnten die Mitarbeiter zum Beispiel ermitteln, wie sicher automatisierte Fahrzeuge mit KI–Systemen Personen, Verkehrszeichen oder bestimmte Hindernisse erkennen und darauf reagieren. Dabei spielen sowohl Performanz als auch Aspekte der Cybersecurity und der Robustheit von KI eine wichtige Rolle.
Eine entsprechende Prüfung sollte in Zukunft Voraussetzung für die Zulassung neuer Fahrzeuge sein. „Künstliche Intelligenz ist komplex und kann sich dynamisch verhalten“, sagte Dirk Schlesinger, Leiter des TÜV AI Labs. „Also können wir bestehende Prüfansätze nicht einfach übertragen, sondern müssen neue Testmethoden entwickeln.“
Dabei finden auch die Daten Berücksichtigung, mit denen Algorithmen trainiert werden. Beispielsweise können die Trainingsdaten eines KI-Systems für die Personalauswahl zu einer Benachteiligung bestimmter Personengruppen führen, wenn die Daten nicht ausgewogen sind.
Ein weiteres Ziel des Prüflabors ist die Entwicklung von Lösungsansätzen für die Einteilung von Anwendungen in Risikoklassen. „Nicht alle KI-Systeme müssen die gleichen Anforderungen erfüllen“, sagte Schlesinger. Daher sollten entsprechende Systeme nach ihrem Gefährdungspotenzial reguliert werden. Die Anforderungen könnten von einem vollständigen Regulierungsverzicht über Transparenzpflichten und Zulassungsverfahren vor der Markteinführung bis zu einem Verbot besonders gefährlicher oder ethisch fragwürdiger KI-Anwendungen reichen.
In der Wirtschaft gibt es bereits eine breite Zustimmung für die Regulierung von KI. Laut einer repräsentativen TÜV-Studie sind 87 Prozent der Unternehmen ab 50 Mitarbeitern in Deutschland der Meinung, dass KI-Anwendungen in Abhängigkeit von ihrem Risiko reguliert werden sollten.
Sie möchten gerne weiterlesen?
Registrieren Sie sich jetzt kostenlos:
Sie sind bereits registriert?
Hier anmeldenAktuelle Beiträge

„Dem Kunden ist es egal, woher die Software stammt“
Seitdem Magnus Östberg letzten September die Rolle als Chief Software Officer bei Mercedes-Benz eingenommen hat, wurden viele Weichen für die Zukunft gestellt: Das softwaredefinierte Fahrzeug soll in den Mittelpunkt des Handelns gestellt werden.Weiterlesen...

„Die Konsolidierung wird weiter voranschreiten“
Für Autoexperte Stefan Bratzel ist klar: Die Transformation der Autoindustrie wird zu einigen unschönen Verwerfungen führen. Autobauer müssten daher bei Software oder Elektromobilität Fahrt aufnehmen, um die eigene Zukunftsfähigkeit zu garantieren.Weiterlesen...

„Security wird zu oft als Verhinderer gesehen"
Die Digitalisierung im Eiltempo hat ihre Tücken: Sie entwickelt sich meist schneller, als Security-Konzepte mithalten können. ISG-Experte Roger Albrecht erklärt, wie Firmen auf diese komplexen Anforderungen reagieren können.Weiterlesen...

„Lidar wird in der Zukunft nur noch eine Nische darstellen“
Einst ging Tesla mit seinem Lidar-Verzicht beim autonomen Fahren einen Sonderweg. Durch die neuen Möglichkeiten eines 4D Imaging Radar könnte die Strategie jedoch bald Nachahmer finden, erläutert Matthias Feulner, ADAS-Experte von NXP.Weiterlesen...

„Es wird keine Trennung zwischen IT und OT mehr geben"
Der Amtsantritt von Hanna Hennig als IT-Chefin von Siemens war turbulent: Es galt, die Folgen der Coronapandemie zu managen sowie neue Cloud- und Security-Konzepte auf den Weg zu bringen. automotiveIT gewährt sie einen Einblick in ihre Agenda.Weiterlesen...
Diskutieren Sie mit