Bisher gestaltet sich der Einsatz komplexer KI-Anwendungen in der Luftfahrt als problematisch, da es an entsprechenden Zertifizierungsverfahren fehlt. Damit diese Technologie dort eingesetzt werden kann, müssen Verfahren entwickelt werden, um KI-Systeme zu zertifizieren und damit ihre Sicherheit nachzuweisen. Die Anstrengungen in diese Richtung sind äußerst umfangreich, da Flugzeugkomponenten besonders sicherheitskritisch sind und deshalb sehr hohen Qualitäts- und Sicherheitsstandards unterliegen.
KIEZ 4-0 (Künstliche Intelligenz Europäisch Zertifizieren unter Industrie 4.0) hat einen maßgeblichen Beitrag dazu geleistet, wie KI-Systeme in der Luftfahrt zertifiziert werden können. Im Rahmen dieses Projekts wurde mithilfe von Demonstratoren und Anwendungsfällen eine Methode vorgestellt, die zeigt, wie die Zertifizierung der Zuverlässigkeit von Avionik-Anwendungen erfolgen kann. Zusätzlich wurde analysiert, inwiefern KI für eine Zulassung in der Luftfahrt geeignet ist und welche erforderlichen Anpassungen dabei notwendig sind.
Das Verbundprojekt wurde im Rahmen des Luftfahrtforschungsprogramms (LuFo VI-1) vom Bundesministerium für Wirtschaft und Klimaschutz (BMWK) finanziell gefördert und von der Airbus Defence and Space GmbH geleitet. Neben Airbus waren auch das Deutsche Zentrum für Luft- und Raumfahrt (DLR), mehrere Fraunhofer-Institute, die Deutsche Flugsicherung (DFS) und weitere Partner an der dreijährigen Forschungsmaßnahme beteiligt. Um die Zertifizierung auf internationaler Ebene voranzutreiben, arbeitete das Konsortium außerdem mit der Europäischen Agentur für Flugsicherheit (EASA) zusammen.
Einbeziehung von Zertifizierungsanforderungen in frühe Entwicklungsphasen
Dr. Yuanting Liu, Leiterin des fortiss-Kompetenzfelds Human-centered Engineering, leitete das Projekt und koordinierte die Zusammenarbeit mit den Wissenschaftler*innen aus den Kompetenzfeldern Software Dependability und Human-centered Engineering. Sie erarbeiteten zunächst formale und verifikationsbasierte Lösungen, um die Sicherheit und Zuverlässigkeit von KI-basierten Systemen nachzuweisen. Konkret wurden dazu Techniken der Modellprüfung und des Theorembeweises eingesetzt. Sie finden Anwendung, um die Anforderungen zu erfüllen, die ein zwingender Nachweis bei der Bewertung von Sicherheit und Korrektheit von KI-Systemen in der Avionik mit sich bringt. Auf diese Weise können die Sicherheit von KI-basierten Systemen verifiziert und gleichzeitig die hohen Sicherheitsstandards der Branche gewahrt oder sogar verbessert werden.
Im fortiss Kompetenzfeld Human-centered Engineering wurden schließlich spezifische Richtlinien erarbeitet, die für die Zulassung solcher Systeme nützlich sind. Die aktuelle Zertifizierung von Human-Factors legt den Fokus darauf, menschliche Fehler zu vermeiden. Bei der Anwendung von KI in komplexeren Situationen entsteht jedoch eine neue potenzielle Fehlerquelle. Daher ist es erforderlich, das Potenzial für KI-Fehler bereits während des Entwicklungsprozesses des Systems zu berücksichtigen. Anstatt sich darauf zu konzentrieren, wie die KI ihre Aufgabe optimal erfüllen kann, sollten Entwickler zuerst klären, welche Aufgabe die KI überhaupt erfüllen soll. Diese Frage ist entscheidend und sollte bereits im frühen Stadium durch die Einbeziehung der Nutzer*innen im Rahmen eines menschzentrierten Designs geklärt werden.
Aus dieser Arbeit wurden Empfehlungen für die Zertifizierung von Komponenten, insbesondere mit symbolischer KI und Human-Factors abgeleitet und mit der EASA ausgetauscht.
KI-Visionen für die Avionik
Die Realisierung zukünftiger Luftfahrtthemen wie Ein-Pilot-Flugzeuge und Flugtaxis stellt im Hinblick auf die Integration von KI-Systemen eine besondere Herausforderung dar. Die Interaktion zwischen der KI und dem menschlichen Piloten oder Passagier spielt dabei eine entscheidende Rolle. Diese Aufgabe erfordert nicht nur eine technologische Weiterentwicklung, sondern auch eine Überprüfung und möglicherweise Anpassung der Zertifizierungsmethoden und -prozesse. Die spezifischen Anforderungen beziehen sich nicht nur auf die Flugzeugtechnik, sondern auch auf die Interaktion mit Flughäfen und Flugsicherungen, um das reibungslose Funktionieren des komplexen Gesamtsystems sicherzustellen.
