E-mail senden E-Mail Adresse kopieren

Vertrauens- WÜRDIGE INFORMATIONS- VERARBEITUNG

Eine zentrale Herausforderung für alle datengetriebenen Ökosysteme und Anwendungen ist die Entwicklung von Methoden und Werkzeugen, die eine vertrauenswürdige Informationsverarbeitung ermöglichen.

Insbesondere hängt der Erfolg der Digitalisierung stark davon ab, ob es uns gelingt, das Vertrauen der Nutzer:innen zu gewinnen. In diesem Forschungsbereich werden bahnbrechende neue Methoden für die vertrauenswürdige Verarbeitung von Informationen in verschiedenen Bereichen entwickelt, effizient und in großem Maßstab. Maschinelles Lernen und KI-Ansätze haben in den letzten Jahren enorme Fortschritte gemacht. Infolgedessen beobachten wir einen allgegenwärtigen Einsatz solcher Methoden und Technologien in einem breiten Spektrum von Forschungsbereichen, neuartigen Produkten, Dienstleistungen, IT-Systemen und Infrastrukturen. Um diesen Fortschritt nachhaltig zu sichern und negative Auswirkungen zu begrenzen, müssen wir dafür sorgen, dass derartige Ansätze mit unseren Erwartungen, Bedürfnissen und rechtlichen Anforderungen in Bezug auf Datenschutz, Sicherheit und Zuverlässigkeit in Einklang stehen. Insbesondere müssen wir im Falle eines Angreifers die Worst-Case-Szenarien analysieren und optimieren, im Gegensatz zu den weithin untersuchten durchschnittlichen oder zu erwartenden Ergebnissen. Daraus ergeben sich eine Reihe von anspruchsvollen Fragestellungen, im Zusammenhang mit datenschutzgerechtem, „gegnerischem“ (Adversarial Machine Learning) und vertrauenswürdigem maschinellem Lernen. Wir befassen uns mit fortschrittlichen Analyseparadigmen wie der Kausalanalyse und innovativen Lernszenarien wie dem föderierten und verteilten Lernen.  Um unser Ziel zu erreichen, müssen wir eine ganzheitliche Sichtweise einnehmen, die sich von der Theorie über die Systeme bis hin zum praktischen Einsatz erstreckt, indem wir Grundlagen erarbeiten, aber auch Bedrohungsmodelle von praktischer Relevanz erfassen.

 

NEUE VERÖFFENTLICHUNGEN

Jahr 2023

Konferenz / Medium

SP
Proceedings of the 44rd IEEE Symposium on Security and Privacy44rd IEEE Symposium on Security and Privacy

Jahr 2022

Konferenz / Medium

FST&TCS
Proceedings of FSTTCS 2022,42nd IARCS Annual Conference on Foundations of Software Technology and Theoretical Computer Science