Genau das ermöglicht Explainable AI (XAI). Die Experten Julian Stoettinger und Johannes Mayer geben spannende Einblicke in die Potenziale und Herausforderungen dieser Technologie.
Die Referenten
Bevor wir tiefer in das Thema eintauchen, stellen wir die beiden Experten vor:
Johannes Mayer ist seit fast vier Jahren bei doubleSlash tätig und spezialisiert sich auf Java-Backend-Entwicklung im Subscription-Bereich. Aktuell arbeitet er als Lead Developer in einem großen Projekt. Während seines Studiums widmete er sich intensiv dem Machine Learning und der Bildverarbeitung. In seiner Bachelorarbeit entwickelte er ein Modell zur „Instance Segmentation“, um die Belegung von Parkplätzen anhand von Google-Maps-Bildern zu analysieren.
Julian Stoettinger ist Director of Data Science bei 3E, einem global agierenden Unternehmen mit rund 500 Mitarbeitern. 3E ist im Bereich Informationsdienste für die chemische Industrie tätig. Er beschreibt die Arbeit seines Unternehmens so:
„3E ist in den Information Services angesiedelt. Wir bieten Daten und Lösungen für Unternehmen, die mit regulierten chemischen Produkten arbeiten. Wenn zum Beispiel eine Firma in Deutschland etwas produziert und es mit dem LKW nach Italien transportieren will, muss sie zahlreiche gesetzliche Vorgaben einhalten – von Straßenvorschriften über Tunnelverordnungen bis hin zu Gefahrgutkennzeichnungen. Unsere Aufgabe ist es, diese Daten bereitzustellen und Prozesse zu automatisieren, damit unsere Kunden diese komplexen Anforderungen erfüllen können.“
Die Rolle von Data Science in der Automatisierung
Auf die Frage, wie Data Science bei 3E komplexe Prozesse unterstützt, antwortet Julian:
Wir versuchen, Prozesse möglichst zu automatisieren und zu skalieren. Das beginnt bei der Datenbeschaffung aus verschiedenen Quellen, der Analyse und Klassifizierung bis hin zur Integration in die Systeme unserer Kunden. Mit Hilfe von KI können wir Entscheidungen treffen, zum Beispiel welche Gefahrgutaufkleber auf einen LKW müssen oder ob besondere Vorschriften zu beachten sind. Diese Entscheidungen tragen eine hohe Verantwortung, und jemand muss dafür die Hand ins Feuer legen, dass sie korrekt sind.
Beide Referenten haben sich intensiv mit Explainable AI befasst – hier sind ihre Erkenntnisse und Erfahrungen.
Der Weg in die Explainable AI
Wie hast du deine Leidenschaft für Explainable AI und Maschine Learning entdeckt?
Julian: Ich war immer ein visueller und grafischer Typ und wollte ursprünglich in die Computergrafik gehen. Aber das Umfeld hat nicht zu mir gepasst. Dann bin ich zufällig zum Institut für Automatisierungstechnik gekommen, wo kauzige Professoren Graphentheorie betrieben. Das hat mir gefallen, und ich fand meine Leidenschaft für Machine Learning.
Explainable AI wird oft als Schlüssel für Vertrauen in KI-Systeme betrachtet. Doch wie schafft sie dieses Vertrauen? Julian zieht eine interessante Analogie:
„Wenn die Elektrik in deinem Haus Probleme macht, rufst du einen Elektriker. Du erwartest, dass er das Problem löst, ohne selbst jedes technische Detail verstehen zu müssen. Gleichzeitig möchtest du sicher sein, dass alles korrekt und sicher ist – dafür sorgen seine Zertifizierung und Haftung. Genauso ist es mit KI-Systemen: Wir müssen nicht alle Details verstehen, aber wir brauchen Erklärungen und Verantwortlichkeit.“
Haftungsfragen und Explainable AI
Ein zentraler Aspekt von Explainable AI ist die Klärung von Haftungsfragen bei KI-Entscheidungen. Julian erklärt:
„In sicherheitskritischen Bereichen wie der Gefahrgutklassifizierung hängen an unseren Entscheidungen große Verantwortungen. Es geht nicht nur darum, ob ein LKW den richtigen Aufkleber trägt – im Mittelpunkt stehen die Sicherheit von Menschen und die Einhaltung gesetzlicher Vorgaben. Explainable AI unterstützt uns dabei, solche Entscheidungen transparent und nachvollziehbar zu machen und im Falle von Fehlern die Ursache zu verstehen.“
Er ergänzt:
„Wenn es zu einer Haftungsfrage kommt, müssen wir genau darlegen können, wie die Entscheidung zustande kam. Es reicht nicht, einfach zu sagen, dass das System aus Hunderttausenden von Samples gelernt hat und eine Fehlerrate von einem Prozent akzeptabel ist. Was wir brauchen, sind klare und nachvollziehbare Erklärungen.
Alpha-Go: Lernen von der KI
Um die Möglichkeiten von Explainable AI zu veranschaulichen, verweist Julian auf ein bekanntes Beispiel:
„Erinnerst du dich an AlphaGo? Dieses hochkomplexe System hat im Spiel Go neue Strategien entwickelt, die die Menschheit selbst in tausend Jahren nicht entdeckt hätte. Go-Meister beobachteten die Züge der KI, waren fasziniert und zogen daraus völlig neue Erkenntnisse. Das zeigt, dass KI nicht nur Lösungen liefert, sondern auch unser Verständnis erweitern kann – vorausgesetzt, wir können nachvollziehen, wie die KI ihre Entscheidungen trifft.
Praktische Anwendungen von Explainable AI
Explainable AI ist nicht nur ein theoretisches Konzept, sondern zeigt in der Praxis ihre Stärken. Ob in der Industrie, im Bankwesen oder in der Energiewirtschaft – die Technologie trägt dazu bei, komplexe Entscheidungen nachvollziehbar und effizient zu gestalten. Die folgenden Beispiele verdeutlichen, wie Explainable AI konkret eingesetzt wird:
Gefahrgutkennung bei 3E
Wie setzt ihr die Explainable AI konkret im Unternehmen ein und welchen Mehrwert bietet sie in der Gefahrgutklassifizierung?
Julian: Mit Hilfe von Deep Learning treffen wir Vorentscheidungen in der Gefahrgutklassifizierung. Unser System ist in der Lage, genau zu erklären, welcher Bestandteil eines Produkts zu einer bestimmten Einstufung geführt hat. Das spart unseren Experten wertvolle Zeit, da sie sich auf die entscheidenden Informationen konzentrieren können. Die Erklärbarkeit stärkt nicht nur das Vertrauen in das System, sondern ermöglicht es uns auch, die Verantwortung für die getroffenen Entscheidungen zu übernehmen.
Explainable AI im Bankgeschäft
Welche Rolle könnte Explainable AI im Bankensektor spielen, um Prozesse transparenter und vertrauenswürdiger zu gestalten?
Julian: „Als ich einen Kredit aufnehmen wollte, konnte mir der Bankberater nicht schlüssig erklären, wie der Zinssatz berechnet wurde – eine Erfahrung, die ich als äußerst frustrierend empfand. Mit Explainable AI hätte die Bank transparent aufzeigen können, welche Faktoren meine Konditionen beeinflusst haben. Das hätte nicht nur für Klarheit gesorgt, sondern auch das Vertrauen der Kunden deutlich gestärkt.“
Intelligente Störungserkennung & Wartungsplanung in der Windenergie
Nach der Diskussion über den Einsatz von Explainable AI im Bankensektor zeigt ein weiteres Beispiel aus der Industrie, wie diese Technologie Effizienz und Vertrauen fördern kann – insbesondere in der prädiktiven Wartung von Windturbinen. Johannes erklärt:
„Wir nutzen KI, um Anomalien in Windturbinen zu erkennen. Mit Explainable AI können wir genau angeben, welche Schwingungsdaten auf mögliche Probleme hindeuten. Das hilft den Technikern vor Ort, gezielt Maßnahmen zu ergreifen und erhöht das Vertrauen in die Technologie.“
Die Fähigkeit, spezifische Faktoren zu identifizieren, die zu einer Entscheidung geführt haben, verbessert nicht nur die Effizienz, sondern auch die Akzeptanz von KI-Systemen im industriellen Umfeld.
Erklärbarkeit, Ethik und Gesellschaft
Julian und Johannes diskutieren die ethischen Herausforderungen, die KI-Systeme mit sich bringen. Julian äußert Zweifel an der Umsetzbarkeit einer EU-weiten Zertifizierung für KI-Modelle, sieht jedoch die Notwendigkeit einer schrittweisen Regulierung. Gleichzeitig betont er die Bedeutung einer Fehlerkultur, die den verantwortungsvollen Einsatz von KI ermöglicht.
Sein Fazit zur Zukunft: „Es gibt kein Szenario, in dem wir uns der KI komplett verwehren können. Die Technologie wird immer mächtiger, und mehr Menschen werden KI im Alltag nutzen. Eine EU-weite Zertifizierung für KI-Modelle wäre zwar wünschenswert, doch ihre Umsetzung erscheint äußerst komplex. Wahrscheinlicher ist, dass sich Regulierungen schrittweise entwickeln – ähnlich wie bei einem neuronalen Netz, das durch seine Loss-Funktion iterativ verbessert wird. Problemfälle könnten dabei als Basis für notwendige Einschränkungen dienen.
Julian unterstreicht außerdem die Bedeutung einer Fehlerkultur:
„Die Einführung von AI bedeutet oft auch die Einführung einer Fehlerkultur – und eines klaren Prozesses, wie mit Fehlern umgegangen wird. […]“
Er ergänzt:
„Das Paradoxe am Menschsein ist, dass wir eher bereit sind, menschliche Fehler zu akzeptieren als maschinelle. Maschinelle Fehler lassen uns oft hilflos zurück, weil wir der Technologie nicht auf dieselbe Weise vertrauen wie einem Menschen“
Zukunft von Explainable AI
Julian blickt in die Zukunft:
Der Einsatz von AI-Tools wird sowohl im geschäftlichen als auch im privaten Bereich weiter zunehmen. Damit wird es unvermeidlich, die Frage der Haftung für Entscheidungen von Computersystemen klar zu regeln.“
Die Entwicklungen in der KI bleiben spannend – insbesondere, wie sich gesetzliche Rahmenbedingungen und ethische Standards anpassen werden. Explainable AI spielt dabei eine zentrale Rolle: Sie stärkt das Vertrauen in KI-Systeme und schafft die Grundlage für deren verantwortungsvollen Einsatz.
Doch wie seht ihr das? Werden wir in Zukunft strengere ethische und regulatorische Standards erleben? Teilt eure Meinungen und diskutiert mit uns über die Zukunft der Künstlichen Intelligenz!
Fazit
Das Interview mit Johannes Mayer und Julian Stoettinger zeigt, wie wichtig Explainable AI für die moderne Technologie ist. Anhand konkreter Beispiele, etwa aus der Gefahrgutklassifizierung und dem Bankensektor, wird deutlich: Erklärbarkeit ist weit mehr als ein technisches Feature – sie ist eine ethische Grundvoraussetzung. Sie stärkt das Vertrauen in KI-Systeme, fördert Transparenz und bildet die Grundlage für ihren verantwortungsvollen Einsatz in unserer Gesellschaft.
Ihre Meinung ist gefragt!
Wie stehen Sie zu Explainable AI? Haben Sie Erfahrungen oder Gedanken zu diesem Thema? Teilen Sie diese gerne in den Kommentaren und diskutieren Sie mit uns über die Zukunft der Künstlichen Intelligenz!
