DFKI : Hybride KI-Systeme – das Beste aus zwei Welten

Für die Weiterentwicklung und Nutzung von KI-Forschungsergebnissen in Deutschland ist es entscheidend, dass sich die Akteure in Wissenschaft, Forschung und Industrie untereinander vernetzen. Auch auf europäischer Ebene, sodass die kritische Masse an Talent, Investitionsvolumen und Entrepreneurship aufgebaut wird beziehungsweise erhalten bleibt.

Das DFKI hat Anfang 2020 über 1.000 Mitarbeiterinnen und Mitarbeiter, aber in der Grundlagenforschung und der angewandten Forschung werden nur über Netzwerke – und zwar nicht nur über Forschungsnetzwerke, sondern natürlich auch unter Berücksichtigung der Industrie und der Verbände – die notwendigen Normen und Standards erarbeitet und definiert. Wichtig ist, dass die Ergebnisse der anwendungsorientierten Grundlagenforschung zu innovativen Produkterfolgen und Services führen und damit auch zu einer Wertschöpfung in und für Europa. 

Leuchtturm-Projekt, aber kein Forschungsmoloch

Europas Kultur der grenzüberschreitenden Kooperation ist gefordert. Erste gute Schritte sind unternommen, wenn man zum Beispiel an die Initiativen CLAIRE und ELLIS denkt, die sämtliche KI-Forschungsgruppen in Europa zusammenbringen und den Fokus auf die menschenzentrierte KI-Anwendung legen. Klar ist, dass gerade auf europäischer Ebene ein echtes Leuchtturm-Projekt realisiert werden sollte, wie auch vor Kurzem erst von der EU-Kommission vorgeschlagen. Ein solcher KI-Hub sollte nicht als zentraler Megacampus und Forschungsmoloch angelegt sein, sondern als große und anerkannte internationale Begegnungsstätte für KI-Wissenschaftler und Anwender, an denen Wissenschaft und Wirtschaft temporär gemeinsam an zukunftsweisenden KI-Themen forschen und arbeiten. 

Die Stärke der dezentralen KI-Forschung in Europa muss darüber hinaus weiter gefestigt werden, indem regionale Leuchttürme mit thematischen Schwerpunkten gebildet und diese inhaltlich vernetzt werden. Europa sollte seine Kräfte bündeln und große KI-Testzentren und -umgebungen gemeinsam mit der Industrie schaffen, in denen neueste Forschungsergebnisse in realistischen Bedingungen getestet werden können.

Rückstand bei Kommerzialisierung von maschinellem Lernen 

Die europäische KI und auch das DFKI decken seit Jahrzehnten die ganze Bandbreite der Künstlichen Intelligenz ab. Die Qualität der Forschung und Ausbildung in Deutschland war und ist hoch, die intellektuelle Breite gegeben und die Methodenvielfalt wird gelebt. Das maschinelle Lernen, also der Bereich der KI, über den aktuell in den Medien besonders intensiv berichtet wird, hat zwar in Deutschland seinen Ursprung, aber die Kommerzialisierung findet zum größten Teil in den USA und in China statt.

Neuronale Netze gibt es seit den sechziger Jahren, aber aufgrund der zu geringen Rechenleistung und nicht ausreichend vorhandener Daten entfaltetet dieser Ansatz bis vor Kurzem nur eine geringe industrielle Wirksamkeit. Dies hat sich in den letzten fünf bis zehn Jahren drastisch geändert. Im Dienstleistungssektor und Endverbrauchergeschäft haben die USA und China hier einen deutlichen Vorsprung. Bei den KI-Produktionstechnologien und Industrie 4.0 besitzt Deutschland eine herausragende Bedeutung, außerdem beim autonomen Fahren oder bei der Unternehmenssoftware, auch in der Gesundheitsbranche hat Deutschland großes Potenzial – also immer dann, wenn Ergebnisqualität, Zielerreichung und Ausfallsicherheit die entscheidenden Kriterien für den Einsatz sind.

Hybride Systeme statt monolithische Ansätze

Auch als das maschinelle Lernen in den vergangenen zehn Jahren seine Durchbrüche erzielte, die Schlagzeilen und Konferenzen dominierte, hat das DFKI nicht komplett umgesattelt. Der zunehmende Einsatz-, Aufgaben- und Funktionsumfang von KI-Systemen kann nicht von einem monolithischen Ansatz geleistet werden. Das können nur Systeme leisten, die statistische Verfahren wie zum Beispiel klassisches maschinelles Lernen, aber eben auch das subsymbolische Deep Learning, verwenden und diese kombinieren mit symbolischen Ansätzen, die auf formaler Logik und auf einer Modellierung des Gegenstandsbereichs beruhen, welche etwa aus dem Domänen- oder Expertenwissen kommen. Nur diese hybriden Systeme werden die gestiegenen ökonomischen, gesellschaftlichen, politischen und haftungsrechtlichen Einsatzanforderungen erfüllen können.

Der menschliche Experte kann andocken und seinerseits Fakten- und Erfahrungswissen hinzufügen. Hybride KI-Verfahren werden aus verschiedenen Gründen an Bedeutung gewinnen. Dazu gehören die Erklärbarkeit eines vorliegenden Systemergebnisses, die Vorhersagbarkeit zukünftiger Ergebnisse und die Nachvollziehbarkeit der Leistungserbringung, die notwendige Voraussetzungen für die Zertifizierbarkeit von Systemen sind. Diese hybriden KI-Systeme, die Domänenmodellierung und Expertenwissen einbeziehen, sind der Kern der „Menschzentrierten KI“ und besitzen als „KI made in Europe“ das Potenzial zum weltweiten Exportschlager.

Erklärbarkeit von KI-Systemen erhöht das Vertrauen

Wichtige Projekte am DFKI adressieren die Erklärbarkeit von KI-Systemen und erhöhen damit das Vertrauen in KI-Werkzeuge. Wenn ein Versandhändler beispielsweise ein „falsches“ Buch empfiehlt, also eines, das den Kunden nicht interessiert, dann ist das emotional unbefriedigend. Die falsche Diagnose eines Medizin-Algorithmus kann wiederum fatale Folgen haben. Diese Einschätzungen müssen hinterfragt werden können – und zwar so, dass der Arzt versteht, wie das Ergebnis zustande gekommen ist.

Zukünftig werden in vielen sensiblen Bereichen KI-Systeme den Menschen immer besser unterstützen. Aber der Mensch wird weiterhin die letzte Entscheidung treffen. Allerdings sind Realismus und Bescheidenheit wichtig, hundertprozentige Sicherheit ist nicht erreichbar. Bei keinem Arzt und auch bei keinem KI-System, immer wird eine Fehlerquote bleiben. Damit kann man nur umgehen, wenn dies in einem zivilgesellschaftlichen Dialog offen diskutiert wird. Das DFKI beteiligt sich an diesem Dialog, zum Beispiel im Rahmen der KI-Enquete-Kommission des Bundestages, der Datenethikkommission der Bundesregierung oder in der High-Level Expert Group on AI der Europäischen Kommission.

Antonio Krüger ist CEO und wissenschaftlicher Direktor des Deutschen Forschungszentrums für Künstliche Intelligenz GmbH (DFKI) sowie wissenschaftlicher Direktor des Forschungsbereichs „Kognitive Assistenzsysteme“ am DFKI.