12.10.2023
09:15 - 10:15
Track
Keynote
Prof. Dr.-Ing. Marco Huber
Open the Black Box: Mittels Erklärbarkeit das Innenleben von KI besser verstehen
Künstliche Intelligenz hat sich in vielen Anwendungsgebieten zu einer Schlüsseltechnologie entwickelt. Insbesondere Deep-Learning-Ansätze sind in der Lage hochkomplexe Zusammenhänge zu erkennen und dadurch sehr genaue Entscheidungen zu treffen. Solche Algorithmen werden auch als „Black Boxes“ bezeichnet, da deren komplexe Entscheidungsfindungsprozesse für Menschen nicht nachvollziehbar sind.
In diesem Vortrag wird zunächst ein Überblick über das Themenfeld Erklärbare Künstliche Intelligenz (XAI) gegeben. Anschließend erfolgt die Vorstellung einiger praktikablen Methoden, die den Weg für das Verständnis komplexer KI-Entscheidungen ebnen. Der Vortrag wird dann die wichtige Rolle von XAI für das Testen und Absichern von KI-Systemen beleuchten, um deren Genauigkeit und Zuverlässigkeit zu erhöhen. Diese Form der Transparenz und Erklärbarkeit von KI-Verfahren und KI-basierten Anwendungen ist insbesondere für kritische Einsätze etwa in der Produktion, beim autonomen Fahren oder in der Medizin hinsichtlich Akzeptanz und Verlässlichkeit von hoher Relevanz.
Prof. Dr.-Ing. Marco Huber
Nach Informatik-Studium und erfolgreicher Promotion an der Universität Karlsruhe (TH), leitete Prof. Huber von 2009 bis 2011 die Forschungsgruppe „Variable Bildgewinnung und –Verarbeitung“ des Fraunhofer IOSB in Karlsruhe. Im Anschluss war er bis 2015 als Senior Researcher bei AGT International in Darmstadt tätig. Von April 2015 und bis September 2018 verantwortete Prof. Huber die Produktentwicklung und die Data-Science-Dienstleistungen der USU Software AG in Karlsruhe. Zugleich lehrte er nach erfolgreicher Habilitation als Privatdozent für Informatik am Karlsruher Institut für Technologie (KIT). Seit Oktober 2018 ist er Inhaber der Professur für kognitive Produktionssysteme an der Universität Stuttgart. Zugleich leitet er die Abteilungen Bild- und Signalverarbeitung sowie die Abteilung Cyber Cognitive Intelligence (CCI) am Fraunhofer-Institut für Produktionstechnik und Automatisierung IPA in Stuttgart. Seine Forschungsarbeiten konzentrieren sich auf die Themen maschinelles Lernen, zuverlässige Künstliche Intelligenz, Bildverarbeitung und Robotik im produktionstechnischen Umfeld.