Forschung an der Schnittstelle von Software Engineering und KI
Trotz großer technologischer Fortschritte und der zunehmenden Verbreitung KI-gestützter, autonomer Systeme bleibt das Vertrauen in deren Sicherheit, Zuverlässigkeit und Nachvollziehbarkeit ein zentrales Thema. Für eine Vielzahl komplexer Anwendungen ist daher die Entwicklung einer neuen Generation robuster KI-Technologien unerlässlich – Systeme, die in unsicheren und unvorhersehbaren Umfeldern zügige, sichere und nachvollziehbare Entscheidungen treffen können. Diese müssen nicht nur große Datenmengen effizient verarbeiten, sondern auch aus begrenzten Datensätzen wertvolle und präzise Erkenntnisse extrahieren, ohne die Vertraulichkeit und Privatsphäre zu gefährden.
AI Engineering gewinnt in immer mehr Branchen an Bedeutung, da Unternehmen vor der Herausforderung stehen, KI-Technologien gezielt und nachhaltig in wertschöpfende Anwendungen zu überführen. Dieser anspruchsvolle Entwicklungsprozess ist vor allem hinsichtlich der Absicherung komplex, da gängige Software-Engineering-Methoden oftmals nicht direkt auf KI-Modelle bzw. KI-basierte Systeme übertragbar sind. Eine entscheidende Voraussetzung für den Erfolg ist die präzise und effiziente Nutzung von Daten – sei es zum Training, zur Optimierung oder zur Absicherung von KI-Modellen. Daten bilden nicht nur die Grundlage für die Modellierung und kontinuierliche Weiterentwicklung von KI-Systemen, sondern gewährleisten auch deren Qualität, Effizienz und Vertrauenswürdigkeit.
Der Forschungsschwerpunkt AI Engineering bei fortiss konzentriert sich auf die Entwicklung robuster und vertrauenswürdiger KI-Technologien, die in unsicheren und unvorhersehbaren Umgebungen schnelle und sichere Entscheidungen treffen können. Dabei liegt der Fokus auf der Erhöhung der Vertrauenswürdigkeit und Erklärbarkeit von KI-Systemen, um diese resilient gegenüber fehlerhaften Eingaben und gezielten Angriffen zu machen. Ein weiteres Ziel ist es, große Datenmengen effizient zu verarbeiten und gleichzeitig wertvolle Erkenntnisse aus kleinen Datenmengen zu gewinnen, ohne die Vertraulichkeit und Privatsphäre zu gefährden.
fortiss leistet einen aktiven Beitrag zur Weiterentwicklung des AI Engineering, indem innovative Ansätze wie generative Modelle zur Datensynthese, menschenzentriertes Design für eine verbesserte Nutzbarkeit und Methoden zur Vertrauenskalibrierung in KI-gestützten Entscheidungen erforscht werden. Zudem entwickelt fortiss effiziente Lernverfahren für ressourcenbeschränkte Umgebungen, Low-Energy-Hardwarelösungen sowie Edge- und Mobile-KI-Konzepte, die eine dezentrale Verarbeitung und geringe Latenzzeiten ermöglichen. In sicherheitskritischen Bereichen kommen Test-, Verifikations- und Monitoring-Techniken zum Einsatz, um KI-Modelle zuverlässig und nachvollziehbar zu gestalten.
Im Forschungsschwerpunkt AI Engineering verfolgt fortiss einen ganzheitliches Konzept, der von der Datenanalyse und -verarbeitung über die Generierung und Modellierung bis hin zur Validierung, Optimierung und Integration in industrielle Systeme reicht. Dieser umfassende Ansatz stellt sicher, dass KI-Lösungen nicht nur leistungsfähig, sondern auch zuverlässig, effizient und praxisgerecht anwendbar sind. Dazu gehören Simulations- und Evaluierungsumgebungen, die generative KI integrieren, sowie hardware-adaptierte Softwaremodelle für Edge AI und Methoden des kontinuierlichen Lernens. Die Kompetenzfelder Neuromorphic Computing, Human-Centered Engineering, Machine Learning und Software Dependability tragen maßgeblich dazu bei, innovative und praxisorientierte Lösungen zu entwickeln.
Entwicklung von Lösungen unter Einbeziehung von Daten und Wissen
Das Kompetenzfeld Machine Learning (ML) konzentriert sich auf die Entwicklung und Anwendung fortschrittlicher, datengetriebener Modelle, die komplexe Problemstellungen in anspruchsvollen Bereichen wie autonomem Fahren, medizinischer Diagnostik und prädiktiver Instandhaltung lösen können. Ein besonderer Fokus liegt auf den Techniken des Reinforcement Learning und Representation Learning mit dem Ziel, die Anpassungsfähigkeit von Modellen zu optimieren und ihre Robustheit gegenüber veränderten Bedingungen zu erhöhen.
Die Expertise von fortiss umfasst kritische Anwendungsgebiete wie Bild- und Sprachverarbeitung, autonome Navigation und Empfehlungssysteme. Durch das „One Stop Shop“-Machine Learning Lab (One-ML) bietet fortiss ein maßgeschneidertes Serviceangebot – von fundierter Beratung über technische Schulungen bis hin zu öffentlich zugänglichen Vorträgen. So wird der Wissenstransfer in Industrie, Bildung und Gesellschaft gefördert und eine effiziente Implementierung von ML-Technologien in der Praxis ermöglicht.
Die dritte Generation künstlicher neuronaler Netzwerke
Im Bereich Neuromorphic Computing konzentrieren sich unsere Aktivitäten auf die Entwicklung energieeffizienter, latenzarmer neuronaler Netzwerke, die insbesondere in der Robotik und in industriellen Anwendungen zum Einsatz kommen. Der Fokus liegt auf der Erforschung gepulster neuronaler Netze, die durch neuromorphe Hardware eine besonders effiziente Informationsverarbeitung ermöglichen.
Im Bereich AI Engineering entwickelt fortiss Softwaremethoden und Algorithmen, die die Lernfähigkeit und Intelligenz technischer Systeme in der Fertigung, im Automobilsektor und in der Robotik verbessern. Besonders relevant ist die neuromorph gesteuerte Robotik, die mobile und industrielle Roboter mit geringem Energieverbrauch und niedrigen Latenzzeiten effizient steuert.
Ein weiteres Forschungsthema ist die Entwicklung neuromorpher Sehsysteme für die Robotik und die Mensch-Maschine-Interaktion. Diese Technologien tragen dazu bei, die Integration und Leistungsfähigkeit von KI-Systemen in sicherheitskritischen und ressourcenbeschränkten Umgebungen zu optimieren.
Entscheidungen intelligenter Systeme aus Nutzersicht verstehen und nachvollziehen
Das Kompetenzfeld Human-centered Engineering widmet sich der Entwicklung von KI-Systemen, die nicht nur technischen Anforderungen gerecht werden, sondern auch die Bedürfnisse und Erwartungen der Nutzer in den Mittelpunkt stellen. Im Bereich AI Engineering liegt ein besonderer Fokus auf der Mensch-Maschine-Interaktion. fortiss entwickelt datenbasierte, intelligente Benutzerschnittstellen, die eine natürliche und intuitive Nutzung von KI-Systemen ermöglichen. Dabei wird besonderer Wert auf eine benutzerfreundliche, effiziente und sichere Interaktion gelegt.
Ein weiterer Schwerpunkt ist die Transparenz von Entscheidungsprozessen, um das Vertrauen in KI-gestützte Systeme zu stärken. Dies geschieht durch die Entwicklung von Modellen und Schnittstellen, die KI-Entscheidungen verständlich und nachvollziehbar darstellen. Ziel ist es, praxisorientierte Lösungen zu schaffen, die die Akzeptanz und Integration von KI-Technologien in verschiedenen Branchen wie Luftfahrt, Automobilindustrie, Gesundheitswesen und Produktion fördern.
Rigorose Validierung und Verifizierung für verlässliche und sichere Softwaresysteme
Im Kompetenzfeld Software Dependability (SD) liegt der Fokus auf der Entwicklung innovativer Methoden, Algorithmen und Werkzeuge zur Sicherstellung der Zuverlässigkeit und Sicherheit cyber-physischer Systeme (CPS), insbesondere lernfähiger, autonomer Systeme auf Basis Künstlicher Intelligenz (KI). Diese Systeme lernen aus Daten und Erfahrungen und passen ihr Verhalten an dynamische Umgebungen an. Eine der größten Herausforderungen besteht darin, diese lernfähigen Systeme in sicherheitskritischen Bereichen wie der Automobilindustrie sowie der Luft- und Raumfahrt zuverlässig zu verifizieren und zu zertifizieren.
fortiss entwickelt fortschrittliche Verifikationsmethoden, die insbesondere neuronale Netze und KI-basierte Systeme betreffen, um eine kontinuierliche Validierung und Testung von Software unter Einhaltung relevanter Standards zu ermöglichen. Besonders im Bereich der sicheren und effizienten Softwareverifikation werden formale Methoden wie Modellprüfung und statische Analyse mit weiteren Testverfahren kombiniert. So wird die Zuverlässigkeit und Sicherheit autonomer CPS gewährleistet und der Einsatz von KI in sicherheitskritischen Anwendungen gezielt gefördert.
Durch die kontinuierliche Analyse hochfrequenter Sensordaten ermöglicht fortiss die frühzeitige Erkennung von Anomalien in Satellitenkonstellationen. Mit leistungsstarken Algorithmen zur Mustererkennung und Abweichungsanalyse werden potenzielle Fehlerquellen identifiziert, um Ausfälle zu vermeiden und die Betriebsstabilität sicherzustellen.
Maschinelles Lernen unterstützt Unternehmen dabei, Produktionsprozesse effizienter und vorausschauender zu gestalten. fortiss entwickelt adaptive Modelle, die Wartungsbedarfe prognostizieren, Qualitätsabweichungen in Echtzeit erkennen und Produktionsabläufe optimieren. Dies trägt zur Reduktion von Stillstandszeiten und Kosten bei und steigert gleichzeitig die Produktivität.
Durch den Einsatz intelligenter Steuerungsalgorithmen werden Energienetze flexibel an den tatsächlichen Bedarf angepasst. fortiss erforscht Methoden zur optimalen Lastverteilung, die eine bedarfsgerechte Integration erneuerbarer Energiequellen ermöglichen und Netzstabilität sichern. So wird eine zuverlässige und nachhaltige Energieversorgung unterstützt.
fortiss entwickelt neuromorphe Rechenarchitekturen zur ultraschnellen Verarbeitung von LIDAR-Daten. Diese ermöglichen eine präzise Umweltwahrnehmung und zuverlässige Hinderniserkennung in autonomen Luftfahrtsystemen. Die leistungsfähige Echtzeitanalyse verbessert die Navigationsfähigkeit und erhöht die Sicherheit in komplexen Flugumgebungen.
Mit innovativen KI-Methoden ermöglicht fortiss die Echtzeitanalyse biometrischer Daten auf tragbaren, energieeffizienten MedTech-Geräten. Durch neuromorphe Verarbeitung werden Vitalparameter kontinuierlich erfasst und ausgewertet, um frühzeitig gesundheitliche Auffälligkeiten zu erkennen. Diese Technologie unterstützt sowohl Patient*innen als auch medizinisches Fachpersonal bei präventiven und diagnostischen Maßnahmen.
Wie lassen sich sichere Softwaresysteme mit KI entwickeln? Dieses Whitepaper beleuchtet technisches Design und Engineering-Grundsätze für sichere KI-Systeme. Anhand eines Notfallbremssystems werden zentrale Herausforderungen zu Spezifikation, Sicherheit, Design und Wartung aufgezeigt.
Dieses Whitepaper führt in Künstliche Intelligenz (KI) ein, beleuchtet Anwendungsfelder und zeigt deren Einfluss auf Wirtschaftswachstum. Es analysiert Erfolgsstrategien, Deutschlands Position und gibt Empfehlungen für Bayerns Wirtschaft.
Wie entstehen sichere Softwaresysteme mit KI? Dieses Whitepaper behandelt technisches Design und Engineering-Grundsätze. An einem Notfallbremssystem werden zentrale Herausforderungen zu Spezifikation, Sicherheit, Design und Wartung erläutert.
Dieses Whitepaper erörtert wissenserweitertes maschinelles Lernen (ML) und Lösungen für die Schwächen aktueller Deep-Learning-Modelle, wie mangelnde Anpassungsfähigkeit und Aufgabenspezifikationen. Es beleuchtet Invarianz und Lernparadigmen, die selbstständiges Wissen ermöglichen.
Autonome kognitive Systeme versprechen höhere Leistung in komplexen Situationen. Die VDE-AR-E 2842-61-Norm bietet einen risikobasierten Ansatz zur Gewährleistung der Vertrauenswürdigkeit von KI-Systemen in Entwicklung und Betrieb.
Künstliche Intelligenz ist ein zentrales Thema der Informatik. Dieses Whitepaper beleuchtet KI-Anwendungsfelder, deren Einfluss auf das Wirtschaftswachstum und Strategien erfolgreicher Nationen, mit Fokus auf Bayern.