Mit dem zunehmenden Einsatz künstlicher Intelligenz in Maschinen wächst auch der Prüfbedarf. TÜV Süd und das Saarbrücker Unternehmen QuantPi arbeiten deshalb künftig bei Tests und Bewertungen von KI-Systemen zusammen. QuantPi ist nach Angaben der Unternehmen das erste Carat-Partnerlabor von TÜV Süd. Der Schwerpunkt liegt zunächst auf Physical AI, autonomen Maschinen und regulierten industriellen Anwendungen.
Hintergrund sind unter anderem der EU AI Act und die neue Maschinenverordnung (EU) 2023/1230. Setzen Hersteller KI als Sicherheitskomponente ein oder übernimmt die Technik selbst Sicherheitsfunktionen, müssen sie deren zuverlässige Arbeitsweise nachweisen. Eine Schwierigkeit besteht bislang darin, Testergebnisse so aufzubereiten, dass sie statistisch belastbar, reproduzierbar und für eine Konformitätsbewertung nachvollziehbar sind.
Statistik statt einzelner Testergebnisse
QuantPi setzt dafür auf statistische Verfahren. Die Plattform soll das Verhalten eines KI-Systems anhand definierter Konfidenzgrenzen beschreiben und damit Aussagen liefern, die über klassische Benchmark-Werte hinausgehen. Nach Unternehmensangaben funktioniert das unabhängig vom eingesetzten KI-Modell. Ein Zugriff auf interne Modellparameter oder Trainingsdaten sei nicht erforderlich.
Die Testergebnisse sollen anschließend für Konformitätsbewertungen und Zertifizierungen nutzbar sein. QuantPi betreibt seine Plattform unter einem Qualitätsmanagementsystem, das nach eigenen Angaben an ISO/IEC 17025:2017 ausgerichtet ist. Damit sollen sowohl die Prüfprozesse als auch die Ergebnisse nachvollziehbar und auditierbar werden.
Fokus auf autonome Maschinen
Besondere Bedeutung sehen die Partner bei sogenannter Physical AI. Dazu zählen etwa humanoide Roboter, autonome mobile Roboter und andere KI-gesteuerte Maschinen, die sich in wechselnden Umgebungen bewegen und mit Menschen interagieren. Da sich nicht jede mögliche Betriebssituation einzeln testen lässt, sollen statistische Verfahren aus einer festgelegten Zahl von Tests belastbare Aussagen über das Systemverhalten ermöglichen.
Parallel dazu werden Standards für den Einsatz von KI in sicherheitsrelevanten Anwendungen erarbeitet. Die in Entwicklung befindliche ISO/IEC-22440-Reihe beschäftigt sich laut Pressemitteilung mit Anforderungen und Leitlinien für KI in solchen Funktionen. Für Hersteller gewinnt damit nicht nur die technische Leistungsfähigkeit ihrer Systeme an Bedeutung, sondern auch deren dokumentierbarer Sicherheitsnachweis.
Gemeinsamer Rahmen für KI-Prüfungen
TÜV Süd und QuantPi wollen ihre Verfahren nun zu einem gemeinsamen Rahmen für KI-Tests verbinden. Dieser soll Unternehmen von der strukturierten Prüfung bis zur Vorbereitung auf eine spätere Konformitätsbewertung und Zertifizierung unterstützen. Beide Unternehmen sind zudem Mitglieder des Nvidia-Halos-Ökosystems, das sich mit Sicherheitsfragen rund um Physical AI beschäftigt.
