Autonom agierende KI-Agenten
Kein Vertrauen, kein Zugang
Wenn KI-Agenten autonom agieren sollen, kann das schnell in einer Sackgasse enden. Nicht weil es an Rechenleistung fehlt, sondern an Vertrauen. Wie sich Datenqualität, Rückverfolgbarkeit und Datensouveränität verbinden lassen...
Falsche KI-Entscheidungen können weitverzweigten Schaden anrichten.
InfiniteFlow – Adobe Stock
Der Autohersteller schickt seinen KI-Agenten los, um Störungsrisiken in der Lieferkette zu bewerten. Kein allzu fernes Szenario. Der Agent arbeitet sich durch die weitverzweigte Kette, bis er einen Tier-2-Lieferanten erreicht, mit dem der OEM keinen Vertrag hat. Was jetzt passiert, ist leider auch nicht allzu weit hergeholt. „Der Zulieferer fragt: Wer hat Sie geschickt, warum sollte ich Zugang gewähren und was geschieht mit meinen Daten?“, spinnt Hanno Focken, Managing Director Operations Governance and Scaling bei Catena-X, das Szenario weiter. Der Agent hat keine überzeugende Antwort. „Der Zugang wird verweigert, und die kritischen Informationen auf den Stufen 3 bis 5 bleiben unerreichbar“, erklärt Focken das daraus resultierende, unzufriedenstellende Ergebnis. Dumm gelaufen.
Skalierung braucht Vertrauen
Für Focken liegt hier die eigentliche Hürde für den Einsatz physischer KI, also für KI-Systeme, die in der realen Produktion und Logistik handeln. „Der Anwendungsfall scheitert: Nicht, weil die KI keine Fähigkeiten hat, sondern weil es keine vertrauenswürdige Grundlage für den Datenaustausch gibt.“ Im Labor oder in einer einzelnen Fabrik lässt sich das umgehen, erklärt Focken: „In geschlossenen Umgebungen, wie einer einzelnen Fabrik oder einem Unternehmen, kann physische KI ohne gemeinsame Vertrauensschicht getestet werden.“ Sobald sie aber in realen Lieferketten mit Zehntausenden von Unternehmen arbeiten soll, werde Vertrauen zur Voraussetzung für die Skalierung. Industrielle KI unterscheide sich grundlegend von Verbraucher-KI: Ein Fehler in einem großen Sprachmodell bleibe meist folgenlos, in der Autoindustrie hingegen könnten (falsche) Entscheidungen Milliarden Euro vernichten, die Sicherheit der Endkunden gefährden oder rechtliche Konsequenzen haben. „Unvollständige Daten machen ein Modell einfach sicherer falsch“, so der Experte.
Die Datenqualität ist entscheidend
Daten müssen deshalb laut Focken vier Anforderungen erfüllen. Sie müssen genau sein, also nach gängigen Standards erstellt und geprüft. Sie müssen sich bis zur Quelle zurückverfolgen lassen, damit Ergebnisse überprüfbar und Verantwortlichkeiten klar sind. Sie müssen semantisch konsistent sein. „Unternehmen beschreiben dieselbe Information auf dieselbe Weise, sodass etwa ‚15. Oktober‘ und ‚Woche 42‘ nicht als Angaben zum selben Datum nebeneinander existieren“, verdeutlicht Focken. Zudem muss die Kontrolle stets beim Datenerzeuger bleiben, der entscheidet, wer die Daten wofür nutzt und ob damit andere KI-Agenten trainiert werden dürfen. „Dies sind keine späteren Upgrades, sondern Voraussetzungen“, so der Experte.
Wie das praktisch aussieht, zeigt der Digital Product Passport (DPP), der digitale Produktpass. „Der DPP liefert zuverlässige, standardisierte Produktdaten über den gesamten Lebenszyklus. Catena-X stellt sicher, dass diese Daten souverän ausgetauscht werden: mit verifizierten Identitäten, klaren Nutzungsregeln und gemeinsamen Datenmodellen“, erläutert Focken. Die Produktpässe der Lieferanten ließen sich in den eigenen Pass eines Unternehmens integrieren, ohne Daten zu duplizieren und ohne dass Datenanbieter die Kontrolle abgeben müssten. Der DPP sei zudem mehr als ein Compliance-Instrument. Er könne zum zentralen Einstiegspunkt für produktbezogene Daten werden, darunter geschützte Zusatzinformationen, die nur bestimmte Partner sehen, etwa Demontageanweisungen für automatisierte Prozesse. Genau solche Daten brauche physische KI.
Rückverfolgbarkeit sorgt für Sicherheit
Doch wie lässt sich nachweisen, wer einen Befehl gegeben hat, wenn mehrere KI-Systeme verschiedener Firmen aufeinander aufbauen? „Dafür ist eine überprüfbare Abfolge von Auftrag, Delegation, Freigabe und Ausführung notwendig“, erklärt Carsten Stöcker, Geschäftsführer von Spherity. „Die Dokumentation liefert wichtige Belege für die Klärung von Verantwortung und Haftung.“
Andernfalls kann es unangenehm werden. Prof. Kai Rannenberg von der Goethe-Universität Frankfurt illustriert das Problem: Ein KI-Agent, der etwa die Auslastung von Maschinen optimieren soll, könnte auf die Idee kommen, dafür umfangreiche Produktionsdaten auszuwerten oder weiterzugeben, betont der Experte für Identity Management und Datenschutztechnologien. Solche Informationen ließen Rückschlüsse auf die wirtschaftliche Situation eines Unternehmens zu. „Ein Agent sollte nicht unkontrolliert unterwegs sein – unabhängig davon, ob er auf KI basiert“, fordert er. Es müsse nachvollziehbar sein, wer für ihn verantwortlich ist und welche Aufgaben er ausführen darf.
Die Identitäten dafür soll auch die European Business Wallet liefern, eine europäische Unternehmensidentität auf Basis von eIDAS, der EU-Verordnung für elektronische Identifizierung und Vertrauensdienste. „eIDAS 2.0 ist geltendes Recht. Der zusätzliche Rechtsrahmen für die European Business Wallets ist noch im Gesetzgebungsverfahren“, erklärt Stöcker. Die endgültige Verabschiedung stehe noch aus. Catena-X wartet darauf nicht. „Catena-X schlägt keinen separaten Weg ein. Wir integrieren die European Business Wallet“, betont Focken. Die Unternehmen der Lieferkette seien weltweit tätig, ihre Identitäten und Vertrauensbeziehungen endeten nicht an den EU-Grenzen: „Catena-X ist ein globales Ökosystem und muss global vernetzbar bleiben.“ Deshalb gelte: „Unser Ziel ist ein föderiertes Vertrauensmodell.“ Es verbindet also europäische Infrastrukturen mit Identitätsrahmenwerken anderer Weltregionen und mit den bestehenden Identitätslösungen der Teilnehmer.
Vorteil Europa
„Wichtige Bausteine sind mit Catena-X bereits in der Praxis angekommen“, pflichtet Stöcker bei. So habe BMW gemeinsam mit Partnern wie Dräxlmaier, CATL und Covestro verschiedene Anwendungsfälle umgesetzt. Spherity habe bereits mit BMW an verifizierbaren Datenketten für die Erkennung gefährlicher Fahrsituationen gearbeitet, Stichwort Dangerous Driving. „Dabei wird das KI-Ergebnis über eine signierte Nachweiskette mit den Fahrzeugdaten und ihren Verarbeitungsschritten verbunden. Diese Herkunft schafft eine nachvollziehbare Grundlage, um die Verlässlichkeit des Ergebnisses zu bewerten“, so Stöcker.
Bleibt die Frage, ob Europas Regulierung Innovation bremst oder gar zum Standortvorteil wird? „Regeln allein sind weder ein Vorteil noch eine Bremse für den Fortschritt“, meint Focken. „Wichtig ist, ob sie in der Praxis umsetzbar sind.“ Hemmend wirkten sie, wenn ein Anbieter für jeden Kunden und jede Vorschrift eigene Berichte, Schnittstellen und Nachweise erstellen müsse. Zum Vorteil würden Regeln, wenn sie dieselben Anforderungen in gemeinsame Standards, Identitäten und maschinenlesbare Regeln übersetzen. Laut Focken ist Vertrauen die Voraussetzung dafür, dass Unternehmen überhaupt wertvolle Daten teilen können, auch für KI.
Europa bietet dafür eine gute Ausgangslage. „Europa verbindet einen gemeinsamen Rechtsrahmen für digitale Identitäten und Vertrauensdienste mit Unternehmensregistern, industriellen Datenräumen sowie großer Kompetenz im Bereich der funktionalen Sicherheit“, lobt Stöcker. „Die European Business Wallets können dieses Fundament weiter stärken.“ Dieser Vorsprung müsse jetzt in produktive Anwendungen übersetzt werden. Industrie, Technologieanbieter, Forschung und öffentliche Hand müssten gemeinsam aus den vorhandenen Bausteinen eine Infrastruktur schaffen, die im täglichen Betrieb funktioniert. „Catena-X ist das Fundament, auf dem wir eine vertrauenswürdige, sektorübergreifende KI-Wirtschaft aufbauen können“, so Stöcker. „Nur so kann Europa bei der industriellen Nutzung von KI Maßstäbe setzen.“