ImageGuard

Ziel des Forschungsprojekts ImageGuard ist es, ein System zur automatisierten Erkennung von KI-generierten und manipulierten Bildern zu entwickeln. Da generative KI-Modelle wie Stable Diffusion, DALL-E oder Midjourney zur Bildsynthese fähig sind und immer mehr Menschen Zugang dazu haben, wird es immer schwieriger, echte von synthetischen Bildinhalten zu unterscheiden und damit Informationen fälschungssicher zu halten.

ImageGuard beruht auf einem multimodalen Ansatz, bei dem mehrere Analyseverfahren kombiniert werden, um einen Confidenzwert zu bilden. Hier kommen Methoden der klassischen Bildverarbeitung, wie die Analyse von Histogrammen, oder Error Level Analysis zum Tragen, als auch neueste Verfahren des Deep Learnings wie speziell trainierte CNNs und CLIP-basierte Feature-Extraktion. So wird die Fälschungssicherheit von Bildinhalten auf diverse Art und Weise überprüft und bewertbar. Wie die einzelnen Messgrößen zu bewerten sind, ist auf der Internetseite des Projektes unter https://www.hs-furtwangen.de/forschung/forschungsinstitute/idacus nachzulesen. 

Das Tool wird in einer webbasierten Anwendung umgesetzt, die eine benutzerfreundliche Oberfläche für die Analyse von Bildern bereitstellt. Die Ergebnisse verschiedener Analysen werden mit einem Ensemble-Verfahren in einen Gesamt-Confidenzwert überführt. Weitere Analysen sind geplant, ebenso wie die automatisierte Erstellung von detaillierten Reports, die spezifische Art der Fälschung und betroffenen Bereich des Bildes dokumentieren.

Alles in allem begegnet ImageGuard der wachsenden gesellschaftlichen Herausforderung durch KI-generierte Bilder, die immer raffinierter werden. Zukünftig könnte das Tool Journalist*innen, Verbraucher*innen und Bildungseinrichtungen eine Forschungsgrundlage zur Überprüfung von Bildern bieten und dabei helfen, die Integrität von Informationen im Internetzeitalter zu wahren.