XAI4HiL-ML

Die visuelle Kontrolle und Sortierung von Waren werden in der Industrie zunehmend von ML-Modellen durchgeführt. Höhere Genauigkeit, schneller Umsetzbarkeit und höhere Robustheit sind dabei nur einige Vorteile von ML-Modellen. Ein Kernproblem von ML-Modellen ist die Nachvollziehbarkeit und Zuverlässigkeit. 

Das Projekt XAI4HiL-ML widmet sich der Frage, wie Human in the Loop (HiL) Ansätze genutzt werden können, um die bessere ML-Modelle zu erzeugen und die Anwendungssicherheit zu erhöhen. Im Kern des Projektes stehen dabei Methoden zur Erklärung der Modellvorhersagen (eXplainable AI, XAI) und Methoden zur Quantifizierung der Unsicherheit des Modells. 

Das übergeordnete Ziel des Vorhabens besteht darin, Best Practices für HiL Ansätze zur Nutzung von ML in der visuellen Inspektion zu definieren. Im Zentrum steht dabei die Benutzerfreundlichkeit der Methoden. Insbesondere die Nutzung und Optimierung der ML-Modelle soll mithilfe von geeigneten Benutzeroberflächen und Workflows für Personen ohne Hintergrund in Machine Learning zugänglich gemacht werden.  

Mit dem Projekt werden so Grundlagen geschaffen, um Systeme für die visuelle Inspektion in wirtschaftlichen Betrieben schnell und sicher einzuführen und zu nutzen.