Künstliche Intelligenz (KI) : KI-Cockpit macht Entscheidungen nachvollziehbar

Im Projekt „KI-Cockpit“ haben das Fraunhofer IAO und das IAT der Universität Stuttgart gemeinsam mit Partnern aus Wissenschaft und Wirtschaft eine Plattform entwickelt, die Menschen dabei hilft, KI-Entscheidungen besser nachzuvollziehen und zu steuern. Ziel ist es, die Vorgaben der neuen EU-Verordnung zur Künstlichen Intelligenz praktisch umzusetzen, wonach KI-Systeme mit hohem Risiko unter menschlicher Aufsicht arbeiten und transparent sein müssen.

Das Forschungsteam testete die Lösungen in Feldstudien mit Partnern wie der Caritas Dortmund und Starwit Technologies. Dabei entstanden Cockpits, die etwa in der Pflege oder der Verkehrsplanung für mehr Kontrolle und Sicherheit sorgen sollen. Ein besonderes Augenmerk lag auf einer benutzerfreundlichen Gestaltung, die sich an die mentalen Fähigkeiten der Nutzenden anpasst und Überforderung vermeidet.

Alle Software-Anwendungen und Begleitmaterialien des Projekts stehen Unternehmen kostenfrei als Open-Source-Angebot zur Verfügung. Firmen können die Lösungen direkt nutzen oder sich bei der Einführung eines eigenen KI-Cockpits vom Fraunhofer IAO und IAT beraten lassen. hosa