Zehn Jahre DARPA-XAI: Ambitionierte Transparenzversprechen in der KI-Forschung bleiben unerfüllt
Washington – Zehn Jahre nach dem Start des DARPA-Programms zur Erklärbaren Künstlichen Intelligenz im Jahr 2016 zeichnet sich eine ernüchternde Bilanz ab. Das Vorhaben, das Millionen an Fördermitteln verschlang, zielte darauf ab, die Undurchsichtigkeit moderner KI-Systeme zu beseitigen und Entscheidungsprozesse nachvollziehbar zu machen. Trotz intensiver Bemühungen fehlen bis heute breit einsetzbare Lösungen, die den hohen Ansprüchen gerecht werden. Das Programm konzentrierte sich auf die Entwicklung neuer maschineller Lernverfahren, die nicht nur präzise Vorhersagen treffen, sondern auch transparente Begründungen liefern. Im Mittelpunkt standen drei Kernbereiche: die Schaffung intrinsisch erklärbarer Modelle durch innovative Lernmethoden, die Gestaltung benutzerfreundlicher Schnittstellen für Visualisierungen und interaktive Dialoge sowie die Integration psychologischer Theorien zur Optimierung von Erklärungen. Als Anwendungsfelder dienten die Analyse komplexer Datenmengen zur Mustererkennung und die Entscheidungsfindung in autonomen Systemen, etwa bei Drohnen. Die Bewertung umfasste Kriterien wie die Lernfähigkeit der Modelle und die Wirksamkeit…
