Können Sie einen Überblick in das Kompetenzfeld Software Dependability und seine wichtigsten Ziele innerhalb von fortiss geben?
Dr. Tewodros Beyene: Innerhalb von fortiss widmet sich das Kompetenzfeld Software Dependability der Erforschung neuartiger Methoden, Algorithmen und Werkzeuge. Diese sind notwendig für die handhabbare und zuverlässige Entwicklung sicherer Software in CPS. Dabei konzentrieren wir uns insbesondere auf mathematisch-logische Ansätze und formale Methoden. Diese dienen zur Bereitstellung von Verifikationsmethoden zur Sicherstellung der Korrektheit von Software. Wir entwickeln Metriken und Testansätze zur Messung der Qualität von Komponenten. Diese Komponenten setzen Algorithmen des maschinellen Lernens ein und liefern Garantien für deren Robustheit. Zudem konstruieren wir systematisch Algorithmen, die für ihre Spezifikation korrekt sind. Darüber hinaus untersuchen wir, wie die derzeitigen Entwicklungspraktiken erweitert werden müssen. Dies ist notwendig, um die praktische Anwendung solcher Analysemethoden in integrierten, evidenzbasierten Sicherheitsprozessen zu ermöglichen. Zudem entwickeln wir die erforderliche Werkzeuginfrastruktur.
Was sind die aktuellen Herausforderungen in diesem Bereich und welchen einzigartigen Beitrag möchten Sie im Bereich der Softwarezuverlässigkeit leisten?
Dr. Fathiyeh Faghih: Im Bereich der Softwarezuverlässigkeit liegt die größte Herausforderung in der Entwicklung und dem Betrieb kognitiver CPS, die in der Lage sind, autonome Entscheidungen zu treffen und mit Methoden der künstlichen Intelligenz (KI) aus Daten zu lernen. Diese Systeme müssen ihr Verhalten an dynamische Umgebungen anpassen, was eine Reihe komplexer Herausforderungen darstellt. Schlüsselindustrien wie die Automobilindustrie, die Luft- und Raumfahrt und die Industrieautomatisierung erforschen aktiv die Integration autonomer CPS in ihre Produkte und Prozesse, wie z. B. hochautomatisiertes Fahren in Automobilen, autonomes Fliegen in der Luft- und Raumfahrt und anpassungsfähige Fabrikautomatisierung.
Dr. Tewodros Beyene: Die Gewährleistung der Zuverlässigkeit und Sicherheit dieser autonom agierenden CPS stellt jedoch eine große Hürde dar. Bestehende Zuverlässigkeitsmethoden und industrielle Sicherheitsstandards, die für herkömmliche CPS entwickelt wurden, werden den einzigartigen Merkmalen kognitiver Systeme nicht gerecht, insbesondere nicht denen, die auf lernenden KI-Komponenten basieren. Die Zertifizierung der Konformität solcher Systeme ist für ihren erfolgreichen Einsatz von größter Bedeutung. Unsere Forschungsbemühungen zielen darauf ab, diese kritische Lücke zu schließen, indem wir neuartige Methoden zur Sicherung und Zertifizierung autonom agierender CPS entwickeln. Durch die Entwicklung innovativer Ansätze, die auf die Komplexität kognitiver Systeme zugeschnitten sind, wollen wir die Integration von KI-Technologien in unternehmenskritische autonome Softwaresysteme und -dienste ermöglichen. Unser Ziel ist es, die breite Einführung von autonomen CPS in verschiedenen Branchen zu erleichtern und dabei die höchsten Standards für Zuverlässigkeit und Sicherheit einzuhalten.
Welchen Hintergrund und welche Erfahrungen bringen Sie als Co-Leiter*in die Abteilung mit, um diese Kompetenz bei fortiss weiter zu stärken?
Dr. Fathiyeh Faghih: Mit einem Doktortitel in Informatik mit Schwerpunkt auf formalen Methoden von der University of Waterloo und anschließender Postdoc-Forschung an der McMaster University in Kanada mit Schwerpunkt auf automatisierten Synthesetechniken für fehlertolerante Algorithmen bringe ich ein solides akademisches Fundament mit zu fortiss. Während meiner sechsjährigen Tätigkeit als Assistenzprofessor an der Universität Teheran konnte ich mein Fachwissen im Bereich Software und KI-Zuverlässigkeit weiter ausbauen. In enger Zusammenarbeit mit Bachelor-, Masterstudierenden und Doktoranden habe ich die Forschung in den Bereichen Erklärbarkeit, formale Verifikation, Testen und statische Analyse betreut. Mein Engagement für die Förderung der Softwarezuverlässigkeit durch interdisziplinäre Forschung und Mentorenschaft fügt sich nahtlos in die Ziele von fortiss ein.
Dr. Tewodros Beyene: Ich habe am Lehrstuhl für Theoretische Informatik der TU München promoviert und habe dadurch einen guten Hintergrund für die Entwicklung neuartiger und effizienter Methoden zur Lösung rechenintensiver formaler Verifikationsaufgaben. Allerdings war ich auch daran interessiert, meine Methoden in Prototypen zu implementieren und sie auf reale Probleme anzuwenden. Als Doktorandenpraktikantin bei Microsoft Research in Cambridge (UK) konnte ich meine Prototypen auf reale Verifikationsprobleme anwenden und meine Methode weiterentwickeln. Seit ich 2015 zu fortiss gekommen bin, konzentriere ich mich ausschließlich auf die Entwicklung von Forschungsprototypen, die unseren Industriepartnern bei der Lösung ihrer Verifikations- und Sicherheitsprobleme helfen können. Da die Herausforderungen im Bereich der Softwarezuverlässigkeit zwischen der Entwicklung neuartiger Methoden und deren Umsetzung in ein brauchbares Werkzeug liegen, glaube ich, dass mein starker theoretischer Hintergrund und meine große Erfahrung in der industriellen Anwendung mir eine solide Grundlage bieten, um unsere Forschungslinien voranzutreiben.
Könnten Sie näher auf die besonderen Herausforderungen eingehen, die mit der Gewährleistung der Softwarezuverlässigkeit von CPS in der heutigen, zunehmend vernetzten digitalen Landschaft verbunden sind?
Dr. Tewodros Beyene: Die Entstehung einer hochgradig vernetzten digitalen Infrastruktur bietet sowohl beispiellose Möglichkeiten als auch erhebliche Herausforderungen bei der Gewährleistung der Zuverlässigkeit von Software in CPS. Eine große Herausforderung liegt im theoretischen Bereich, wo die Spezifikation solcher verteilten und dynamischen Systeme anspruchsvolle mathematische Formalismen und Logiken erfordert. Die Komplexität einer solchen Logik erfordert jedoch die Identifizierung anwendungsspezifischer Heuristiken und Erkenntnisse, um die Komplexität auf ein handhabbares Niveau zu reduzieren. Eine weitere dringende Herausforderung ist die Skalierbarkeit, da die Zahl der vernetzten intelligenten CPS weiterhin schnell wächst. Die Entwicklung skalierbarer Methoden, die die Sicherheit dieser vernetzten Infrastruktur wirksam gewährleisten können, ist von entscheidender Bedeutung. Darüber hinaus ist die Effizienz von größter Bedeutung, insbesondere wenn man bedenkt, dass vernetzte intelligente CPS im Vergleich zu herkömmlichen Computergeräten mit einer begrenzten Rechenleistung arbeiten können.
Dr. Fathiyeh Faghih: Eine der größten Herausforderungen unserer Zeit ist die Gewährleistung der Zuverlässigkeit von Systemen der KI. KI birgt zwar ein immenses Potenzial, aber die entscheidende Frage bleibt: Wie können wir KI-gesteuerten Systemen vertrauen? In der Literatur werden verschiedene Techniken erforscht, um diese Frage zu beantworten. Unsere Forschungsgruppe konzentriert sich auf die Nutzung von Software-Engineering-Techniken wie Erklärbarkeit, Testen und formale Verifikation, um die Herausforderung der KI-Zuverlässigkeit zu bewältigen.
Wie will das Kompetenzfeld die Komplexität der Entwicklung und des Betriebs sicherer und lernfähiger CPS angehen, insbesondere im Hinblick auf deren autonome Entscheidungsfähigkeit?
Dr. Tewodros Beyene: Um die komplexen Herausforderungen zu bewältigen, die mit der Entwicklung und dem Betrieb sicherer lernfähiger CPS verbunden sind, wendet unsere Forschungsgruppe einen vielschichtigen Ansatz an. Eine der wichtigsten Techniken, die wir einsetzen, sind formale Methoden, ein Eckpfeiler der Informatik. Formale Methoden umfassen mathematische Techniken und Ansätze, die zur Spezifikation, Entwicklung und Überprüfung von Software- und Hardwaresystemen verwendet werden. Durch den Einsatz formaler Methoden schaffen wir einen rigorosen Rahmen für Schlussfolgerungen über das Verhalten von CPS, der es Ingenieuren und Forschern ermöglicht, die Korrektheit, Zuverlässigkeit und Sicherheit von Software- und Hardware-Designs zu analysieren und zu gewährleisten. Neben den formalen Methoden umfasst unsere Abteilung auch das Testen als weitere wesentliche Technik. Während das Testen seit langem in der Softwareentwicklung eingesetzt wird, konzentrieren sich unsere Forschungsbemühungen auf die Ausweitung von Testmethoden auf den Bereich der KI-gestützten Systeme. Aufbauend auf der umfangreichen Testerfahrung der Software-Community wollen wir Testverfahren für die sichere Entwicklung von KI-gestützter Software im Kontext von CPS anpassen und verfeinern.
Können Sie etwas zu laufenden oder geplanten Forschungsprojekten innerhalb des Kompetenzfeldes sagen, insbesondere zu solchen, die die praktische Anwendung ihrer Methoden in realen Szenarien demonstrieren?
Dr. Tewodros Beyene: Innerhalb unserer Forschungsgruppe sind wir aktiv an mehreren Forschungsprojekten beteiligt, die darauf abzielen, reale Herausforderungen zu bewältigen und die praktische Anwendung unserer Methoden voranzutreiben. Ein herausragendes Projekt ist Evidential Tool Bus (ETB) das darauf abzielt, ein Tool-Integrations-Framework zu entwickeln, das Spezifikationssprachen und Integrations-Engines für die Erstellung und kontinuierliche Pflege von Assurance Cases bereitstellt. Das daraus resultierende ETB-Rahmenwerk, ist semantisch neutral in dem Sinne, dass es für verschiedene Sicherungs- und Compliance-Aktivitäten verwendet werden kann. ETB wird in mehreren Projekten zu verschiedenen Themen und Bereichen weiterentwickelt und angewendet: integrierte kontinuierliche Codeanalyse (z.B. mit der Luftfahrtindustrie), Erstellung von Assurance Cases aus integrierten Analysewerkzeugen (mit der Luftfahrtindustrie und dem Standford Research Institute – SRI International) und inkrementelle Erstellung von Sicherheitsfällen (Automobil- und Gesundheitsbereich – im Rahmen des FOCETA-Projekts). Vor kurzem haben wir auch einen Projektvorschlag für das Horizon-Programm der EU eingereicht, in dem ETB eine weitere Position für die sichere Nutzung von generativer KI und Large Language Models (LLMs) einnehmen soll.
Dr. Fathiyeh Faghih: In der heutigen digitalen Landschaft spielen rechtliche Anforderungen eine entscheidende Rolle bei der Gewährleistung eines sicheren Datenaustauschs. Die Umsetzung von Rechtsvorschriften in technische Kontrollen stellt jedoch eine große Herausforderung dar und führt oft zu Fehlern und Komplexität. Unser Projekt zielt darauf ab, diese Lücke zu schließen, indem wir die Erstellung von Richtlinien für die gemeinsame Nutzung von Daten automatisieren und so die Einhaltung von Vorschriften erleichtern und die Unternehmen entlasten. Darüber hinaus entwickeln wir automatisierte Methoden zur Analyse und Überwachung dieser Richtlinien, um die Einhaltung der Vorschriften aus Sicht der Endnutzer sicherzustellen. Durch die Zusammenarbeit mit kleinen und mittleren Unternehmen in Bayern wollen wir unsere Projektergebnisse in realen Industrieszenarien validieren und umsetzen.
Darüber hinaus widmen wir uns der Verbesserung der Testeffizienz für neuronale Netze, einem wichtigen Bereich im Bereich der KI. Während in der Literatur verschiedene Testverfahren zur Bewertung neuronaler Netze vorgeschlagen wurden, bleibt die Bestimmung der Angemessenheit der Testdaten ein Hauptproblem, insbesondere im Kontext des maschinellen Lernens. Unsere Forschung zielt darauf ab, diese Lücke zu schließen, indem wir eine Methodik zur Bewertung von Abdeckungskriterien speziell für neuronale Netze formulieren. Durch die Bewertung und den Vergleich der Effektivität prominenter Abdeckungskriterien in der aktuellen Literatur bemühen wir uns, robuste Testverfahren zu gewährleisten, die den einzigartigen Herausforderungen von neuronalen Netzwerksystemen gerecht werden.
Inwiefern erwarten Sie, dass sich die Erkenntnisse und Innovationen des Kompetenzfeldes Software Dependability auch auf andere Branchen als die Automobil- und Luftfahrtindustrie auswirken werden?
Dr. Fathiyeh Faghih: Branchen wie die Automobil- und Luftfahrtindustrie haben zwar ihre eigenen Sicherheitsstandards, Methoden und Kulturen, aber der Kern ihrer Sicherheitsprozesse besteht in der Regel in der Überprüfung der Konformität von Softwareprodukten mit den relevanten Zertifizierungsstandards. Im Geschäftsbereich Software Dependability konzentrieren wir uns auf die Automatisierung des Assurance-Prozesses und verfügen daher über Tools und Frameworks, die über diese spezifischen Branchen hinausgehen. Daher sind unsere Innovationen vielversprechend für den Einsatz in einer Vielzahl von Bereichen außerhalb der Automobil- und Luftfahrtindustrie. Da wir automatisierte Lösungen anbieten, die den Prüfprozess rationalisieren, gehen wir davon aus, dass sich unsere Erkenntnisse und Innovationen positiv auf Branchen wie das Gesundheitswesen, das Finanzwesen, die Telekommunikation und darüber hinaus auswirken werden. Diese Branchen können unsere Tools und Frameworks nutzen, um die Zuverlässigkeit und Sicherheit ihrer Softwaresysteme zu verbessern und damit letztlich mehr Vertrauen und Effizienz in ihren Betrieb zu bringen.
Könnten Sie abschließend bitte Ihre Vision für die zukünftigen Auswirkungen von Software Dependability erläutern und wie Sie sich vorstellen, dass es die Landschaft der Software Dependability, Safety und Security sowohl in der Forschung als auch in der Industrie prägt?
Dr. Tewodros Beyene: Die Vision der Abteilung Software Dependability SD ist es, ein Ökosystem von Techniken, Methoden und Werkzeugen für die nachweislich sichere Entwicklung von Software zu schaffen. Dies umfasst zwei Schlüsselaspekte: erstens die Identifizierung und Spezifikation kritischer Sicherheitsaspekte, die sich aus verschiedenen Zertifizierungsstandards ableiten, und zweitens die Entwicklung eines kontinuierlichen Gewährleistungsprozesses, um die Einhaltung dieser Standards zu gewährleisten. Die Industrie benötigt derzeit dringend derartige Spezifikations- und Gewährleistungsmethoden, um sich in der zunehmend komplexen Landschaft der Softwarezuverlässigkeit, -sicherheit und -sicherung zurechtzufinden.
Darüber hinaus entstehen mit der Weiterentwicklung der Technologie neue Herausforderungen, die neue Forschungsansätze erfordern. Im Bereich des autonomen Fahrens besteht beispielsweise ein wachsender Bedarf an Sicherheitsüberprüfungs- und -validierungsmethoden, die eine nachweislich akzeptable Abdeckung bieten. Unsere Vision besteht darin, diese neuen Herausforderungen durch bahnbrechende Forschungsinitiativen anzugehen, die die Grenzen der Softwarezuverlässigkeit erweitern. Durch die Überbrückung der Kluft zwischen theoretischen Fortschritten und praktischen Anwendungen wollen wir die Landschaft der Softwaresicherheit sowohl in der Forschung als auch in der Industrie prägen und eine Zukunft fördern, in der Softwaresysteme nicht nur zuverlässig und sicher sind, sondern sich auch an die sich entwickelnden technologischen Landschaften anpassen lassen.
