Dr. Lea Schönherr wird neue CISPA-Faculty

„Ich freue mich schon darauf, am CISPA neue Menschen mit unterschiedlichen Hintergründen und Erfahrungen kennenzulernen und gemeinsam an Projekten zu arbeiten, die verschiedene Fachkenntnisse vereinen“, so Schönherr, die sich hauptsächlich mit sogenanntem Adversarial Machine Learning beschäftigt. 

Worum geht es dabei? Ein bekanntes Problem beim Machine Learning (ML), vor allem beim Deep Learning mit künstlichen neuronalen Netzen, sind zum Beispiel sogenannte Adversarial Examples. Das sind minimal manipulierte Eingabedaten, die Modelle gezielt zu Fehleinschätzungen verleiten. So können etwa ML-Verfahren, wie sie beim autonomen Fahren zum Einsatz kommen, durch kaum merkliche Veränderungen der Pixel eines Bildes so manipuliert werden, dass sie statt eines Stoppschildes ein Tempolimit erkennen. Auch Attacken auf sprachbasierte digitale Assistenten wie Siri oder Alexa sind möglich. Harmlos wirkende Tonaufnahmen, beispielsweise in Form von Fernseh- oder Radiowerbung, können so unautorisierte Befehle ermöglichen. 

In ihrer Forschung untersucht Lea Schönherr maschinelles Lernen aus Angreifersicht, um potenzielle Schwachstellen aufzudecken, heutige Limitierung von intelligenten Systemen besser zu verstehen und im zweiten Schritt sichere Modelle zu entwickeln. „Im Fall von Spracherkennung können wir beispielsweise die Wahrnehmung eines Menschen von Audiosignalen nutzen, um robustere Systeme gegen Adversarial Examples zu entwickeln“, erklärt Schönherr, die auch zum Thema robuste Spracherkennung promoviert hat. Zudem arbeitet die Forscherin an der Erkennung gefälschter Audiodateien und Bilder, sogenannter Deepfakes.

Ab dem 1. Oktober wird die gebürtige Würzburgerin als Faculty am CISPA arbeiten. „Das CISPA ist ein großartiger Ort für Sicherheitsforschung mitten in Europa, an dem viele Forscher:innen mit unterschiedlichem Hintergrund zusammenkommen.“