Umgang mit Sicherheitsrisiken industrieller Anwendungen durch mangelnde Erklärbarkeit von KI-Ergebnissen

KI kann in verschiedenen Bereichen industrieller Entwicklung, Produktion und Fertigung sinnvoll eingesetzt werden. Dazu gehören

– KI in der Produktionsplanung, z.B. durch Sequenzieren

– KI in der Produktion, z.B. zur Überwachung von Zuständen

– KI in der Prozessautomatisierung, z.B. bei der Steuerung von Robotern

– KI in der Qualitätssicherung, z.B. zur optischen Bauteileprüfung

– KI in der Logistik, z.B. bei wegeoptimierten Abläufen

Um KI in der Industrie allerdings sicher und erfolgreich zum Einsatz zu bringen, sind einige Voraussetzungen zu erfüllen. Hierzu zählt: 1. Das Verständnis der Ziele, die KI erreichen oder eben nicht erreichen kann. 2. Die Kenntnis der Einflussfaktoren, die den Einsatz von KI-Systemen inhärent begleiten.

Grundlegende Aspekte zu diesem Themenfeld wurden bereits in einem Papier der Plattform Industrie 4.0 unter dem Titel „Künstliche Intelligenz (KI) in Sicherheitsaspekten der Industrie 4.0“ beschrieben und zur Hannover Messe Industrie 2019 veröffentlicht. Die vorliegende Publikation geht darüber hinaus, indem sie die Bedeutung von Erklärbarkeit der KI für Sicherheitsaspekte darstellt. Es geht dabei vorrangig um die Frage, wie menschliche Betrachter die Entscheidungen eines KI-Systems verstehen und etwaige verborgene Fehler in Architektur, Konfiguration und Training aufspüren können, um sie zu korrigieren: Was hat das System tatsächlich „gelernt“ und welche Einflussfaktoren waren in diesem Prozess ausschlaggebend?

Quelle / Link: Umgang mit Sicherheitsrisiken industrieller Anwendungen durch mangelnde Erklärbarkeit von KI-Ergebnissen

Dieser Beitrag wurde unter Cybersecurity, Robotik, Technik und Gesellschaft veröffentlicht. Setze ein Lesezeichen auf den Permalink.