KI-Zertifizierung soll Vertrauen in KI stärken

Künstliche Intelligenz hält mit hoher Geschwindigkeit Einzug in Wirtschaft und Alltag. Gleichzeitig beeinflussen Berichte über fehlerhafte Ergebnisse, Bias und andere Risiken das Vertrauen in die Technologie. Laut einer Studie des TÜV-Verbands fürchten 79 % der Bundesbürger unkalkulierbare Risiken durch KI. Unter den Nutzern von KI-Anwendungen vertrauen 53 % darauf, dass deren Ergebnisse und Antworten korrekt sind.

„Vertrauen wird zu einem entscheidenden Faktor für die weitere Verbreitung Künstlicher Intelligenz“, ist sich Marc Fliehe, Fachbereichsleiter Digitalisierung und KI beim TÜV-Verband, sicher. „Unternehmen müssen gegenüber Kunden, Geschäftspartnern und Anwendern nachweisen können, dass ihre KI-Systeme nicht nur leistungsfähig sind, sondern auch zuverlässig und sicher funktionieren.“

Die TÜV-Organisationen entwickeln deshalb ein gemeinsames Rahmenprogramm für die Zertifizierung von KI-Systemen. Hersteller und Anbieter sollen damit unabhängig nachweisen können, dass ihre Systeme definierte Anforderungen an Qualität und Sicherheit erfüllen. Wie aus der Mitteilung hervorgeht, werden die KI-Zertifizierungen derzeit gemeinsam mit Pilotpartnern unter realen Bedingungen erprobt. Die Einführung ist für Ende 2026 vorgesehen.

„Künstliche Intelligenz wird sich auf Dauer nur durchsetzen, wenn Menschen und Unternehmen ihr vertrauen können“, so Fliehe. „Wer KI entwickelt oder einsetzt, muss zeigen, dass die Systeme zuverlässig funktionieren und Risiken beherrscht werden. Mit der TÜV-Zertifizierung schaffen wir dafür einen unabhängigen und nachvollziehbaren Nachweis. Das kann zu einem wichtigen Qualitätsmerkmal im KI-Markt werden.“

Unabhängige KI-Zertifizierung für mehr Orientierung

KI-Systeme kommen bereits in industriellen Produktionsprozessen, bei medizinischen Diagnosen, in Fahrassistenzsystemen und in Recruiting-Software zum Einsatz. Je nach Anwendung können Fehler erhebliche Auswirkungen auf Menschen, Unternehmen oder technische Prozesse haben. Hinzu kommen KI-spezifische Eigenschaften: Ergebnisse können bestimmte Gruppen systematisch benachteiligen oder Systeme können in unerwarteten Situationen unzuverlässig reagieren.

Mit dem AI Act entsteht in Europa ein verbindlicher regulatorischer Rahmen für Künstliche Intelligenz. Gleichzeitig wächst bei Unternehmen der Bedarf, Qualität und Sicherheit ihrer KI-Systeme unabhängig nachweisen zu können. Fliehe erklärt: „Eine TÜV-Zertifizierung kann Kunden und Geschäftspartnern eine zusätzliche Orientierung geben und Unternehmen dabei unterstützen, Vertrauen in ihre Anwendungen aufzubauen.“

Ransomware-Angriff: Die ersten 24 Stunden entscheiden

Nach einer Ransomware-Attacke müssen Unternehmen schnell, aber besonnen handeln. Klare Zuständigkeiten, ein schlagkräftiger Krisenstab und getestete Backups bestimmen, wie gut sich Schäden begrenzen und Produktion sowie Geschäftsprozesse wieder hochfahren lassen. Vorbereitung wird zum entscheidenden Resilienzfaktor für die gesamte Organisation.

Anja Noack

So wird die KI-Zertifizierung entwickelt

Das Rahmenprogramm und die einzelnen KI-Zertifizierungen entstehen in Zusammenarbeit von TÜV-Verband, TÜV AI.Lab und den TÜV-Organisationen. Der TÜV-Verband koordiniert das Vorhaben. Das TÜV AI.Lab entwickelt die fachlichen Grundlagen einschließlich Prüfanforderungen und Prüfkatalogen. Experten der TÜV-Unternehmen bringen Erfahrungen aus Prüfung und Zertifizierung sowie aus der praktischen Bewertung von KI-Systemen ein. Derzeit laufen Tests mit Pilotpartnern. Dabei soll sich zeigen, wie sich die Prüfanforderungen und Prüfverfahren unter realen Einsatzbedingungen bewähren. Die gewonnenen Erkenntnisse fließen direkt in die Weiterentwicklung des Programms ein.

Das Rahmenprogramm umfasst drei KI-Zertifizierungen. Sie unterscheiden sich hinsichtlich Umfang, Tiefe und Methodik der Prüfung. Welche Variante eingesetzt wird, hängt vom jeweiligen Anwendungsfall und der angestrebten Aussagekraft der Prüfung ab. Das Rahmenprogramm ist laut Mitteilung durchgängig mit den Anforderungen der europäischen KI-Verordnung, dem EU AI Act, kompatibel und ergänzt diese um risikobasierte sowie technische Prüfaspekte.

• Die erste KI-Zertifizierung ist für Systeme vorgesehen, die formal nicht in die Hochrisiko-Kategorie des AI Acts fallen. Dabei werden grundlegende Qualitäts- und Sicherheitsanforderungen geprüft.

• Die zweite Zertifizierung steht allen KI-Systemen offen. Sie beinhaltet eine strukturierte, KI-spezifische Risikobewertung. Anhand der Dokumentation sowie vor Ort beim Hersteller wird geprüft, wie die Anforderungen umgesetzt werden.

• Bei der dritten KI-Zertifizierung kommen zusätzlich unabhängige technische Tests ausgewählter Eigenschaften des KI-Systems zum Einsatz. Damit sollen Leistungsfähigkeit und Zuverlässigkeit vertieft bewertet werden.

Warum sich die Prüfverfahren unterscheiden

„Nicht jedes KI-System stellt die gleichen Anforderungen an eine Prüfung“, erklärt Dr. Christoph Poetsch, Head of AI Quality and Ethics beim TÜV AI.Lab. „Deshalb haben wir das Rahmenprogramm für die KI-Zertifizierung bewusst differenziert aufgebaut. Ob eigenständige KI-Anwendung oder KI als Bestandteil eines technischen Produkts: Die KI-Systeme der Hersteller werden risikoadäquat nach der KI-Zertifizierung geprüft, die zu ihrem Anwendungsfall passt.“

Die schrittweise Einführung der KI-Zertifizierungen ist für Ende des Jahres geplant. Damit wollen die TÜV-Organisationen ihre Prüfexpertise nutzen, um Qualität und Sicherheit von KI-Systemen abhängig vom Anwendungsfall und der erforderlichen Prüftiefe unabhängig zu bewerten.