FLA

Föderiertes Lernen (FL) ermöglicht die gemeinsame Nutzung von Wissen unter Wahrung der Privatsphäre der Daten. Mehrere Akteure trainieren gemeinsam Modelle, indem sie datenschutzfreundliche Techniken des maschinellen Lernens anwenden, ohne die für das Training verwendeten Rohdaten teilen zu müssen.

Allerdings kann FL immer noch anfällig für das Abfangen der Kommunikation oder die Preisgabe privater Daten durch Inferenzangriffe sein. Dies ist besonders in stark regulierten Bereichen von Bedeutung, in denen die Vertrauenswürdigkeit von FL für ihre praktische Einführung entscheidend ist. Zur Vertrauenswürdigkeit gehören im Allgemeinen explizite Informationen über die Daten, z. B. über ihre Herkunft oder Verzerrung, und ihre Verarbeitung, z. B. Zustimmung, Erklärbarkeit oder Fairness. Aus rechtlicher Sicht ist die Vertrauenswürdigkeit mit der Rechtmäßigkeit und der Einhaltung von Gesetzen verknüpft, woraus sich die Notwendigkeit ergibt, die Einhaltung der Gesetze für jeden Teilnehmer sowie für das gesamte föderierte Modell zu gewährleisten. Die Sicherstellung würde die Überprüfung der Entwurfszeit und der Laufzeit von FL sowie die Abschwächung von Risiken beinhalten.

Im Projekt Föderiertes Lernen Architektur (FLA) entwirft fortiss ein FL-System, das auf einer datenschutzfreundlichen Architektur aufbaut und modernste Techniken zur Verbesserung der Privatsphäre in allen Phasen integriert. Darunter differentielle Privatsphäre und homomorphe Verschlüsselung für Lernmodelle, praktische Anonymisierung sowie eine manipulationssichere Aufzeichnung über ein verteiltes Hauptbuch. Darüber hinaus bietet das System vielschichtige, multiperspektivische, allgegenwärtige und durchgängige formale Garantien für die Einhaltung der Vorschriften auf der Grundlage eines Wissensgraphen.

fortiss evaluiert seine Forschung am Anwendungsfall des kollaborativen Trainings eines Feedback-Textklassifikators. Bei dem Feedback handelt es sich um natürliche Texteingaben von Nutzern von Online-Diensten der öffentlichen Verwaltung. Die Aufgabe besteht darin, den zuständigen Abteilungen in der deutschen öffentlichen Verwaltung geeignete Feedback-Klassen zuzuordnen.

In diesem Projekt trägt fortiss mit drei Hauptergebnissen bei:

• eine Reihe von Architekturmustern für Privacy-by-Design FL,
• eine Methode für eine vielschichtige und multiperspektivische Absicherung auf der Grundlage formalisierter Ansprüche,
• eine Toolchain und eine Bibliothek von Ansprüchen rund um den European Artificial Intelligence Act (EU AI Act) und die Datenschutz-Grundverordnung (GDPR) für die Anwendung der Entwickler-Methode in praktischen Anwendungsfällen.

Center for AI

01.01.2023 - 31.07.2023