Wie lässt sich in der Praxis rechtssicher mit KI arbeiten?

Die Zeit drängt, wenn es um aktuelle Regulatorik geht: Am 2. August 2027 treten die Verpflichtungen für Hochrisiko-KI-Systeme als Sicherheitskomponente in Kraft und der gesamte EU AI Act findet Anwendung. Auch die neue EU-Maschinenverordnung legt ab Januar 2027 neue Anforderungen für sicherheitsrelevante KI und selbstlernende Systeme fest.

Regulatorische und technische Beratung für Unternehmen

Kirr Real half Unternehmen dabei, diese komplexen regulatorischen Anforderungen zu verstehen und umzusetzen. Hierfür wurden „Legal Quick Checks“ angeboten, also kurze kompakte Beratungsprojekte. Eine Anwaltskanzlei stufte diese Fälle in eine der vier Risikoklassen des AI Acts ein (von minimalem bis unannehmbarem Risiko). Anschließend prüfte das Fraunhofer-Institut für Produktionstechnik und Automatisierung IPA die technische Dokumentation und zugrundeliegenden Konzepte der KI-Entwicklung, um die Rechtskonformität der Systeme zu evaluieren und praxisnahe Handlungsempfehlungen zu erarbeiten.

Das Projekt lief von 15. November 2024 bis 31. Dezember 2025 und wurde vom Ministerium für Wirtschaft, Arbeit und Tourismus Baden-Württemberg gefördert. Im Konsortium arbeiteten das Fraunhofer IPA und der Forschungscampus Arena2036 zusammen und wurden von mehreren assoziierten Partnern begleitet. Zentrale Anliegen des Projekts waren, zu untersuchen, wie gut die Unternehmen in Baden-Württemberg auf den AI Act und die Maschinenverordnung vorbereitet sind, wie die beiden Verordnungen zusammenspielen und sich überlagern und wo es noch Hürden in der KI-Regulierung gibt.

Die Erkenntnisse aus dem Projekt geben Impulse für eine praxistaugliche Umsetzung und Weiterentwicklung der KI-Regulierung und werden aktiv in den Gesetzgebungsprozess zurückgespiegelt, beispielsweise durch die Teilnahme an Normungsgremien, einen regelmäßigen Austausch mit der Bundesnetzagentur, der Bundesanstalt für Arbeitsschutz und Arbeitsmedizin und einen Workshop mit dem Bundesministerium für Arbeit und Soziales. Auch in die Ausgestaltung der vom AI Act vorgesehenen Reallabore sollen die Projektergebnisse einfließen.

“Langfristig geht es darum, Silos aufzubrechen”

Cyber Valley feiert 10 Jahre KI-Exzellenz: Paul-David Bittner erklärt, wie Forschung, Industrie und Start-ups zusammenwachsen, warum Baden-Württemberg der ideale Standort ist – und warum künftig vor allem Robotik, Health und der Abbau von Silos zählen.

Philip Bittermann

Bewusstsein für regulatorische Anforderungen schaffen

Im Projektverlauf wurden 15 KI-Anwendungsfälle aus Bereichen wie Fertigung, humanoide Robotik, Gesundheitswesen und Personalmanagement bearbeitet.

Sogar Unternehmen mit fortgeschrittener KI-Entwicklung hatten noch Unterstützungsbedarf bei der Umsetzung des AI Acts. In Gesprächen stellte sich ebenfalls heraus, dass das Bewusstsein für die kommenden Regulierungen oft nicht ausreicht. In der Anwendung des AI Acts wurde häufig entweder die rechtliche oder die technische Ebene betrachtet. Beide Aspekte und die frühzeitige Beschäftigung mit KI-Regulierung sind jedoch entscheidend für die erfolgreiche Anwendungsumsetzung.

Herausforderungen bei der Umsetzung der Rechtsakte

Besonders die Einordnung in Risikoklassen ist für Unternehmen herausfordernd. Diese Einordnung ist entscheidend für die Ressourcenplanung, jedoch manchmal nicht eindeutig bestimmbar, und hängt stark von den Details des Anwendungsfalls ab. Eine Orientierung an ähnlichen Fällen ist deshalb nicht immer möglich.

Das Fehlen der harmonisierten Standards hat zur Folge, dass mehr KI-Systeme eine Konformitätsprüfung durch Dritte durchlaufen müssen. Im Hinblick auf die Maschinenverordnung sehen viele Fachleute zudem Klärungsbedarf, was genau unter einem System mit „selbstentwickelndem Verhalten“ zu verstehen ist.

Ein weiteres Thema ist die technische Umsetzung der Anforderungen. Viele Unternehmen treiben Fragen um wie: Wie müssen Nachweise erbracht werden? Wie umfangreich muss eine Dokumentation sein? Wann ist KI Teil einer Maschine? Auch der Umgang mit mehreren geltenden Regulierungen ist oft unklar und verursacht Angst vor unnötigem Mehraufwand. Zudem entwickeln viele Unternehmen KI-Systeme nicht vollständig selbst, sondern nutzen bestehende General-Purpose-AI-Modelle für ihre Anwendungen, was die Erbringung der erforderlichen Nachweise erschwert. Die verfügbaren Leitfäden und Hilfestellungen berücksichtigten diese Praxis bisher jedoch kaum.

Für die Integration von KI in Roboter und andere Maschinen steht mit der neuen Maschinenverordnung noch eine Herausforderung an: Unternehmen müssen neben der Beachtung der neuen Regeln für KI in Sicherheitsfunktionen in den nächsten zwölf Monaten auch ihre bestehenden Produkte an die neue Verordnung anpassen.

Handlungsempfehlungen aus dem Reallabor

Die Erfahrungen aus Kirr Real verdeutlichen, dass es zwar Unternehmen gibt, die sich mit den Verordnungen auseinandersetzen, dabei bereiten allerdings bestehende Unklarheiten, die Vielzahl an zu berücksichtigenden Regulierungen und das Fehlen der harmonisierten Standards Probleme.

Es besteht dringender Bedarf an konkreten, praxisnahen und leicht umsetzbaren Leitfäden sowie strukturierten Vorgehensweisen, die früh in der Entwicklung ansetzen.

Insbesondere sind KI-Entwicklungsteams, unabhängig von der Unternehmensgröße, oft klein und haben Schwierigkeiten, die erforderlichen Aufwände zu bewältigen. Unterstützungsangebote wie Reallabore sollten daher möglichst niederschwellig sein, um einen echten Mehrwert zu liefern.

Wie IIoT-Lösungen, adaptive Werkerführung und MES die Produktion revolutionieren

Christian Berger von Wilo zeigte auf der Automation NEXT Conference, wie moderne IIoT-Lösungen, adaptive Werkerführung und MES-Systeme in der Produktion Effizienz, Flexibilität und Transparenz schaffen. Erfahren Sie, wie Wilo diese Technologien einsetzt, um Herausforderungen wie den Fachkräftemangel zu bewältigen und die Produktivität zu steigern – und wie Gamification dabei hilft, Mitarbeiter zu motivieren.

Bernhard Richter

Unternehmen sollten ferner bereits in frühen Entwicklungsphasen Unterstützung erhalten, beispielsweise durch die rechtliche Einschätzung eines Anwendungsfalls, Workshops oder Beratung während der Entwicklung eines Systems.

Das Fraunhofer IPA will weiterhin die Erkenntnisse aus der Projektarbeit sammeln und aktiv in den Gesetzgebungsprozess einbringen sowie für die direkte Zusammenarbeit mit Unternehmen nutzen. Unternehmen können hierfür auf Fraunhofer zukommen. Das Ziel bleibt, die KI Regulierung praxisnah weiterzuentwickeln und Unternehmen in Baden-Württemberg optimal zu unterstützen.