Ist der AI Act eine Innovationsbremse für die Autoindustrie?
Eine neue EU-Verordnung soll einen sicheren Rahmen für den Umgang mit künstlicher Intelligenz schaffen. Wir haben Rechtsexperten gefragt, ob der wichtigste Tech-Trend der Autoindustrie durch den AI Act nun zum zähen Bürokratieakt wird.
Der Verordnungsentwurf soll laut EU-Parlament gewährleisten, dass KI-Systeme, die auf den europäischen Markt gebracht und dort eingesetzt werden, sicher sind und die entsprechenden Grundrechte und Werte respektieren.(Bild: Adobe Stock / Pixx Studio)
Anzeige
automotiveIT Kongress 2025
Am 18. September 2025 geht Deutschlands größtes Branchentreffen der Automobil- und IT-Industrie in Berlin in die nächste Runde. CIOs und IT-Experten wie Rouven Rüdenauer (CIO Mercedes-Benz Vans), Petra Clemens (CIO Cariad) oder Marc Votteler (CIO Schaeffler) stellen ihre Strategien und Projekte vor. Erleben Sie spannende Vorträge, Paneldiskussionen, Insights auf unseren Deep Dive-Bühnen, die Verleihung der nächsten IT Team Awards und natürlich das Networking mit der Community hautnah. 🎫 Jetzt Ticket sichern!
Egal ob beim Kundenservice, in der Fahrzeugentwicklung oder der Produktion: Unternehmen der Autoindustrie stecken Hals über Kopf im KI-Hype und setzen kontinuierlich neue Use Cases auf. Momentan befindet sich vor allem generative KI, die darauf spezialisiert ist, synthetische Daten zu erstellen, auf dem Vormarsch in die Branche. Künstliche Intelligenz verspricht Effizienzgewinne, Automatisierung und neue Geschäftsmodelle – doch der regulatorische Rahmen zieht nun spürbar an.
Anfang Februar 2026 hat das Bundeskabinett einen Entwurf für ein deutsches KI-Gesetz auf den Weg gebracht. Damit konkretisiert die Bundesregierung die nationale Umsetzung des europäischen AI Act. Vorgesehen ist unter anderem, die Bundesnetzagentur als zentrale Marktaufsichtsbehörde für KI-Systeme zu etablieren. Gleichzeitig sollen sogenannte KI-Reallabore Unternehmen ermöglichen, neue Anwendungen unter regulatorischer Begleitung zu testen. Für Industrieunternehmen bedeutet das: KI-Strategie ist spätestens jetzt nicht mehr nur Innovations-, sondern Compliance-Thema. „Mit dem Durchführungsgesetz entscheidet sich, ob der AI Act in Deutschland zum Innovations- oder zum Bürokratieprojekt wird. Der AI Act trifft in Deutschland auf eine bestehende komplexe Behördenstruktur mit breit verteilten Zuständigkeiten auf Bundes- und Landesebene sowie für einzelne Branchen", kommentiert Bitkom-Präsident Ralf Wintergerst.
Anzeige
Die Grundlage für diese neuen Entwicklungen wurde bereits zwei Jahre zuvor geschaffen. Am 13. März 2024 gab das Europäische Parlament in Straßburg grünes Licht für den AI Act und stimmte mehrheitlich für das weltweit erste umfassende KI-Gesetz. Die Verordnung teilt KI-Systeme in verschiedene Risikoklassen ein. Je höher das potenzielle Schadensrisiko, desto strenger die Anforderungen an Transparenz, Dokumentation, Datenqualität und menschliche Aufsicht. Bestimmte Anwendungen, die gegen EU-Grundwerte verstoßen, sind vollständig verboten.
In Kraft trat der AI Act am 1. August 2024. Die Umsetzung erfolgt seither schrittweise: Erste Regelungen zu verbotenen Praktiken greifen frühzeitig, umfassende Pflichten für Hochrisiko-Systeme folgen gestaffelt. Für die Mitgliedstaaten bedeutet das, Aufsichtsstrukturen aufzubauen und Sanktionsmechanismen zu definieren – ein Prozess, der nun mit dem deutschen Gesetzentwurf konkretisiert wird. Der regulatorische Weg begann jedoch deutlich früher. Bereits im April 2021 hatte die Europäische Kommission ihren Vorschlag für eine Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz vorgelegt. Nach intensiven Verhandlungen einigten sich Parlament und Rat im Dezember 2023 auf einen finalen Kompromiss, Anfang Februar 2024 stimmten die Vertreter der EU-Staaten zu.
Was als strategische Digitalagenda begann, ist damit in der industriellen Realität angekommen. Für die Automobilbranche heißt das: Wer KI skaliert, muss künftig auch Governance, Risikoanalyse und Dokumentationspflichten mitdenken – vom Trainingsdatensatz bis zum produktiven Einsatz im Werk oder im Fahrzeug.
Definitionen und Anwendungsbereiche: Die Kompromissvereinbarung passt die Definition von KI-Systemen an die OECD-Richtlinien an und klärt, dass die Verordnung nicht für bestimmte Bereiche, darunter militärische Zwecke oder Forschungszwecke gilt.
Risikoeinstufung von KI-Systemen: Die Vereinbarung führt eine horizontale Schutzebene für KI-Systeme ein und legt Transparenzverpflichtungen fest. Hochrisiko-KI-Systeme unterliegen strengeren Anforderungen, während bestimmte KI-Praktiken wie kognitive Verhaltensmanipulation oder biometrische Kategorisierung verboten sind.
Ausnahmen für Strafverfolgungsbehörden: Spezielle Regelungen für die Verwendung von KI durch Strafverfolgungsbehörden, einschließlich Notfallverfahren und Schutz der Grundrechte werden im Rahmen des AI Act festgehalten.
Governance-Architektur: Ein Amt für Künstliche Intelligenz wird zur Überwachung von GPAI-Modellen eingerichtet, begleitet von einem wissenschaftlichen Gremium und einem beratenden Forum.
Regelungen für Verstöße: Geldbußen für Verstöße gegen das KI-Gesetz basieren auf dem Jahresumsatz des jeweiligen Unternehmens und ein entsprechendes Höchstmaß wird für KMU und Startups festgelegt.
Maßnahmen Innovationsförderung: Es sollen KI-Sandkästen, Erprobung unter realen Bedingungen und Ausnahmeregelungen für kleinere Unternehmen eingeführt werden, um Innovationen zu fördern.
Wird der AI Act zum Rückschlag fürs autonome Fahren?
Da künstliche Intelligenz ganz ohne Zweifel von der gesamten Automobilindustrie als Gamechanger für die automobile Wertschöpfungskette angesehen wird, stellt sich dennoch die Frage, ob die strengere Regulierung entsprechender Technologien für die Automobilindustrie zum großen Hemmnis wird. Beispielsweise im Bereich des autonomen Fahrens ist die Branche ganz besonders auf den Einsatz von künstlicher Intelligenz angewiesen.
Rechtsexperte Nils Lölfing, der für die internationale Wirtschaftskanzlei Bird & Bird tätig ist, sieht durch die vorläufigen Einigungen des AI Acts keine akute Bedrohung für die Weiterentwicklung des autonomen Fahrens: „Konkret plant die EU-Kommission einen sogenannten delegierten Rechtsakt zur Verordnung 2018/858 über die Genehmigung von Fahrzeugtypen – ein Vorgehen, das bedeuten würde: Neue Anforderungen für den Einsatz von KI in Fahrzeugen werden in die bestehenden sektoralen Rahmenregelungen aufgenommen. Bezogen auf Fahrzeuge wäre das das EU-Typgenehmigungssystem für die Zulassung von Kfz. So könnte gewährleistet werden, dass KI-basierte-Systeme für Kfz in erster Linie sektorspezifisch reguliert bleiben.“
In ihrer jetzigen Ausgestaltung regle die KI-Verordnung lediglich, dass die Kommission bestimmte rechtliche Mindestanforderungen bei Kfz berücksichtigen soll. Darunter würden beispielweise Anforderungen in Bezug auf Daten, Daten-Governance, Dokumentation, Transparenz, menschliche Aufsicht sowie Sicherheit fallen. Wie innovationsfreundlich oder -feindlich sich die Verordnung auswirke, hänge von der genauen Umsetzung dieser Anforderungen ab. „Hier ist entscheidend, wie spezifisch und die besonderen Umstände der Automobilindustrie berücksichtigend die Anforderungen aufgestellt werden“, erklärt Lölfing.
Obwohl diejenigen KI-Anwendungen, die für das autonome Fahren unabdingbar sind, mit ziemlicher Sicherheit im Rahmen der Verordnung als Hochrisiko-Systeme eingestuft werden, gibt auch Berylls-Partner Matthias Kempf vorerst Entwarnung. „Die Anforderungen an die Risikobewertung können das Innovationstempo aufgrund zusätzlicher Vorschriften und Prüfprotokolle zunächst verlangsamen. Langfristig bieten diese Vorschriften jedoch auch einen klaren Rechtsrahmen, der den Herstellern helfen kann, das Vertrauen ihrer Kunden zu gewinnen“, gibt der Experte zu bedenken. „Wir sollten auch nicht vergessen, dass die Automobilindustrie in puncto Sicherheit bereits stark reguliert ist und in dieser Hinsicht als Maßstab für andere Branchen dient. Wir sind sicher, dass die Erstausrüster gut geeignet sind, die technologischen Aspekte hinter den Vorschriften des AI-Acts zu verstehen.“
Anzeige
KMU und Startups profitieren von Ausnahmen
Ein weiteres mögliches Hindernis entsteht in der Entwicklung von KI-Basismodellen. Immer mehr Automobilunternehmen setzen in Entwicklung, In-Vehicle-Anwendungen oder Produktion auf große Sprachmodelle – entweder auf Basis von ChatGPT oder mithilfe von Eigenentwicklungen wie zum Beispiel Luminous von Jungunternehmen wie Aleph Alpha. Dass der AI Act zusätzliche „technische Dokumentation“ von Trainings- und Testverfahren sowie die Erstellung entsprechender Nachweise zur Einhaltung urheberrechtlicher Bestimmungen fordert, bedeutet in erster Linie mehr komplexe Bürokratie. Das könnte für kleinere und mittelständische Unternehmen sowie Startups zum Verhängnis werden.
„Das Gesetz sieht erhebliche Ausnahmen für KMU und Startups vor. Diese kleinsten Unternehmen werden nicht gezwungen sein, die Verpflichtungen in Bezug auf Qualitätsmanagementsysteme zu erfüllen, einschließlich der Führung einer umfassenden Dokumentation von Verfahren und so weiter“, weißDariusz Czuchaj, Anwalt für Datenschutz und Technologie. „Noch wichtiger ist, dass der letzte Entwurf des Gesetzes eine Befreiung für die Unternehmen vorsah, die anderen Vorschriften über Qualitätsmanagementsysteme im Rahmen des einschlägigen sektoralen EU-Rechts unterliegen. Dies dürfte für die Automobilindustrie eine enorme Erleichterung bedeuten, und wir hoffen, dass dies auch im endgültigen Text zu finden sein wird.“
Zu guter Letzt bleibt die Frage, ob die neuen Regularien, obwohl sie die europäische Automobilindustrie vorerst nicht vor große Herausforderung stellen, einen negativen Einfluss auf den internationalen Wettbewerb haben könnten. Auch ohne verstärkte Bürokratie drohen besonders chinesische Wettbewerber durch hohes Innovationspotenzial am hiesigen Automobilmarkt vorbeizuziehen, während die Staaten mit attraktiven Subventionen locken und so eine Produktionsverlagerung bewirken wollen.
Rechtsexperte Lölfing kritisiert das verhängnisvolle Ungleichgewicht zwischen Regulierung und Innovation in Europa, das durch den AI Act noch weiter ins Negative rutschen könnte: „Das ist ein Nachteil gegenüber den USA, die hier einen beobachtenden Ansatz fahren und im Prinzip kaum regulieren wollen. China hat demgegenüber schon einiges an KI-Regulierung hervorgebracht und ist hier am weitesten. Allerdings wird dort durch Investitionen darauf geachtet, die Balance zwischen Regulierung und Innovation zu gewährleisten.“
Berylls-Experte Kempf stellt jedoch die Bedeutung von Sicherheit in den Vordergrund und betont, dass das KI-Gesetz ebenso für Nicht-EU-Anbieter gelten muss, die ihre Produkte auf dem europäischen Markt einführen. In diesem Fall würden europäische Unternehmen von einem besseren Verständnis der Compliance-Verpflichtungen profitieren. „Ein weiterer Aspekt ist die Sicherheit der Systeme, insbesondere im Kontext des autonomen Fahrens. Der europäische Ansatz mag natürlich im Gegensatz zu den schnelleren, aber weniger regulierten Märkten wie den USA und China stehen, aber die jüngsten Ereignisse auf dem US-Markt haben deutlich gemacht, dass es keine Kompromisse geben kann, wenn es um Sicherheitsmerkmale von KI geht“, so Kempf.
