KI – aber sicher!

Von intelligenter Sensorik und Assistenzsystemen über fahrerlose Transportsysteme bis hin zu Cobots, die gezielt für bestimmte Fertigungsschritte angelernt werden: Schon heute spielen KI-basierte Anwendungen eine wichtige Rolle in der Fertigungsumgebung. Wollen Industrieunternehmen im internationalen Wettbewerb dauerhaft Schritt halten, sind Lösungen zur Effizienzsteigerung und gleichzeitig ressourcenschonende Produktionsweise unerlässlich. KI-Anwendungen nehmen in diesem Kontext eine Schlüsselfunktion ein, sind sie doch in der Lage, die vierte industrielle Revolution massiv zu beschleunigen.

Obwohl das Potenzial von KI-basierten Anwendungen in der Fertigung so groß ist, nutzen viele Unternehmen die Möglichkeiten bei Weitem noch nicht aus. Das zeigt eine Umfrage des Fraunhofer-Instituts für Arbeitswirtschaft und Organisation IAO im Auftrag der Industrie- und Handelskammer Heilbronn-Franken. In der Region im Nordosten von Baden-Württemberg sind besonders viele Unternehmen aus dem verarbeitenden Gewerbe und der Fertigungsindustrie angesiedelt.

Die große Mehrheit der insgesamt 160 befragten Unternehmen beschäftigt sich zwar mit dem Einsatz von KI im eigenen Unternehmen. Allerdings nutzen die meisten KI-basierte Tools externer Anbieter und keine eigenen Systeme. Und es sind vor allem die größeren Unternehmen mit über 500 Mitarbeitenden, die eine KI-basierte Anwendung bereits im Einsatz haben oder deren Einführung kurz bevorsteht. KMUs befinden sich hingegen überwiegend in einer Phase, in der über den Einsatz von KI noch grundsätzlich diskutiert wird.

Können also überhaupt nur größere Unternehmen tatsächlich von KI-Anwendungen profitieren? Dem widerspricht Dr. Lukas Höhndorf, Programm-Manager KI-Konformitätsbewertung beim Analyse- und Testdienstleistungsunternehmen IABG, ausdrücklich: „Der Einsatz von eigens entwickelten KI-Systemen ist nicht ausschließlich für größere Unternehmen reserviert, die über ausreichende Ressourcen für die Absicherung verfügen.“ Im Grunde genommen könne jedes Unternehmen und jede Privatperson KI sowohl als Dienstleistung als auch souverän nutzen.

Dennoch sehen insbesondere Unternehmen mittlerer Größe eine Vielzahl an Hemmnissen, die sie bisher vom Einsatz von KI-Anwendungen abhalten. Laut Fraunhofer-Studie gehören dazu vor allem ein mangelndes technisches Know-how, fehlende geeignete Daten sowie ein unzureichendes Budget. Größere Firmen sorgen sich zudem um die Gewährleistung der IT-Sicherheit. Insofern ja, grundsätzlich ist es möglich, dass Unternehmen unterschiedlichster Größenordnungen KI-basierte Lösungen für ihren individuellen Anwendungsfall entwickeln. Bestimmte Grundvoraussetzungen müssen aber dennoch gegeben sein.

Dr. Cyrille Waguet, CTO beim Heidelberger KI-Unternehmen incontext.technology , nennt im Wesentlichen drei Bedingungen: „Zum einen braucht es ein gewisses Niveau der Digitalisierung, sodass notwendige Daten aus Anlagen und Prozessen erfasst und für die KI-Systeme bereitgestellt werden.“ Darüber hinaus müssten die Ziele und Erwartungen des KI-Einsatzes klar sein, ebenso wie der Umfang der finanziellen Investition. „Sind die Punkte geklärt, geht es darum, kompetente KI-Experten intern und/oder extern mit den Experten aus dem Business zusammenzuführen und den Anwendungsfall anzugehen“, erklärt Cyrille Waguet.

An diesem Punkt kommt schließlich der Faktor Safety ins Spiel. Denn: Die funktionale Sicherheit einer intelligenten Maschine mit KI-Komponenten ist eine wichtige Voraussetzung dafür, damit Unternehmen sie überhaupt erst in kritischen Bereichen wie etwa der Fertigung einsetzen können. Ohne eine ausreichende Safety einer intelligenten Maschine in der Produktion ist das Risiko für die Benutzer in der Umgebung ansonsten schlichtweg zu groß. Was in der Theorie so einfach klingt, ist in der Praxis aber sehr komplex.

Das weiß auch Dr. Daniel Schneider, Leiter der Hauptabteilung Dependable Systems am FraunhoferInstitut für Experimentelles Software Engineering IESE: „Es ist wichtig zu verstehen, dass KI-Systeme fundamental anders entwickelt werden als klassische softwarebasierte Systeme.“ Die Funktionalität eines solchen Systems wird demnach nicht klassisch programmiert, sondern durch Anwenden von Algorithmen auf Daten erstellt. „Eine Herausforderung aus der Engineering-Sicht besteht darin, dass man typischerweise keine detaillierte und vollständige Spezifikation hat, was das KI-System überhaupt machen soll“, erklärt Daniel Schneider.

Um das Risiko von intelligenten Maschinen in einer Fertigungsumgebung aktuell in Schach zu halten, werden sie entsprechend durch Mechanismen wie Lichtschranken oder Sicherheitskäfige abgesichert. Damit werden dem Potenzial KI-basierter Maschinen aber automatisch Riegel vorgeschoben, können sie doch längst nicht so eigenständig agieren, wie grundsätzlich möglich. „Was wir stattdessen brauchen, sind Maßnahmen, die in das Gesamtsystem integriert werden und dann zur Absicherung beitragen“, sagt daher Daniel Schneider.

Ähnlich sieht das auch Lukas Höhndorf. Gemeinsam mit seinem Team entwickelt er im Bereich SafeAI bei IABG Lösungen für die Evaluierung und Prüfung KI-basierter Systeme. „Es ist wichtig, dass traditionelle Techniken zur Absicherung, zum Beispiel von herkömmlichen Systemen oder traditioneller Software, dadurch nicht obsolet werden, sondern ergänzend weiterhin notwendig bleiben“, sagt er. Notwendig sei etwa eine Risikoanalyse für das jeweilige Einsatzgebiet.

Im Sinne des System Designs gilt es dann, das betreffende Gesamtsystem in seine Teilsysteme aufzuteilen und die technischen Anforderungen an die Absicherung auf Systemebene darzustellen. Die Teilsysteme können sowohl aus Hard- als auch Software-Komponenten bestehen. Jedes der Teilsysteme muss schließlich weiter anhand der bereits bestehenden regulatorischen und gesetzlichen Vorgaben geprüft werden. Entsprechen die Teilsysteme schließlich den notwendigen Qualitätsanforderungen, werden sie wieder in das Gesamtsystem integriert und dieses wiederum als Ganzes validiert.

Natürlich besteht der Vorgang in der Realität noch aus vielen weiteren Maßnahmen. „Wichtig ist, dass sich Unternehmen grundsätzlich mit dem gesamten Entwicklungsprozess von KI-Systemen detailliert vertraut machen“, sagt Lukas Höhndorf. Hilfreiche Unterstützung könnten dabei auch der Bitkom-Verband oder die Initiative appliedAI leisten, die Unternehmen bei der Anwendung vertrauenswürdiger Technologien begleiten. Dass sich die Auseinandersetzung mit diesem komplexen Thema lohnt, daran besteht für Lukas Höhndorf jedoch kein Zweifel: „Die zügige Integration von KI-Systemen in Abläufe, Produkte und Services wird mitentscheidend für die Zukunft des Wirtschaftsstandortes Deutschland sein.“