Vertrauens- WÜRDIGE INFORMATIONS- VERARBEITUNG

Insbesondere hängt der Erfolg der Digitalisierung stark davon ab, ob es uns gelingt, das Vertrauen der Nutzer:innen zu gewinnen. In diesem Forschungsbereich werden bahnbrechende neue Methoden für die vertrauenswürdige Verarbeitung von Informationen in verschiedenen Bereichen entwickelt, effizient und in großem Maßstab. Maschinelles Lernen und KI-Ansätze haben in den letzten Jahren enorme Fortschritte gemacht. Infolgedessen beobachten wir einen allgegenwärtigen Einsatz solcher Methoden und Technologien in einem breiten Spektrum von Forschungsbereichen, neuartigen Produkten, Dienstleistungen, IT-Systemen und Infrastrukturen. Um diesen Fortschritt nachhaltig zu sichern und negative Auswirkungen zu begrenzen, müssen wir dafür sorgen, dass derartige Ansätze mit unseren Erwartungen, Bedürfnissen und rechtlichen Anforderungen in Bezug auf Datenschutz, Sicherheit und Zuverlässigkeit in Einklang stehen. Insbesondere müssen wir im Falle eines Angreifers die Worst-Case-Szenarien analysieren und optimieren, im Gegensatz zu den weithin untersuchten durchschnittlichen oder zu erwartenden Ergebnissen. Daraus ergeben sich eine Reihe von anspruchsvollen Fragestellungen, im Zusammenhang mit datenschutzgerechtem, „gegnerischem“ (Adversarial Machine Learning) und vertrauenswürdigem maschinellem Lernen. Wir befassen uns mit fortschrittlichen Analyseparadigmen wie der Kausalanalyse und innovativen Lernszenarien wie dem föderierten und verteilten Lernen.  Um unser Ziel zu erreichen, müssen wir eine ganzheitliche Sichtweise einnehmen, die sich von der Theorie über die Systeme bis hin zum praktischen Einsatz erstreckt, indem wir Grundlagen erarbeiten, aber auch Bedrohungsmodelle von praktischer Relevanz erfassen.