Franziska, herzlichen Glückwunsch zu deiner neuen Position! Du stehst jetzt vor einem neuen beruflichen Kapitel. Was erwartet dich in deinem neuen Job und worauf freust du dich besonders?
Mich erwartet vor allem viel Verantwortung in einem spannenden Forschungsgebiet an der Schnittstelle zwischen KI und Cybersicherheit. Das sind Fragen, die unsere Gesellschaft gerade intensiv beschäftigen. Ich freue mich darauf, dort viel Gestaltungsspielraum zu bekommen, meine eigene Forschungsgruppe neu aufzubauen und meine Themen weiterzuentwickeln. Außerdem werde ich deutlich mehr in der Lehre tätig sein als bisher. Auch darauf freue ich mich sehr.
Was hat dich an dieser neuen Aufgabe so gereizt, dass du gesagt hast: Das möchte ich machen?
Vor allem eben die Verantwortung, die ich übernehmen werde. Aber auch der Standort München ist unglaublich attraktiv. Es gibt dort viele Möglichkeiten zur Zusammenarbeit und eine fantastische Universität vor Ort. Hinzu kommt, dass es genau der richtige Moment ist. Die ganze Welt diskutiert darüber, wie wir IT-Sicherheit im Zeitalter der KI gewährleisten können und wie Frontier-Modelle die Cybersicherheit verändern werden. Mit diesen Modellen beschäftige ich mich praktisch seit ihrem Aufkommen. Jetzt möchte ich meine Methoden zur Kontrolle und Absicherung von KI-Modellen einbringen und dazu beitragen, ihre Entwicklung in die richtige Richtung zu lenken.
Wenn du auf deine Zeit am CISPA zurückblickst: Was war besonders?
Auf jeden Fall die Kolleg:innen. Ich habe hier unglaublich viel Unterstützung erfahren. Besonders deutlich wurde das, als ich meinen ERC-Antrag eingereicht habe. Meine Forschungskolleg:innen haben mir Feedback zu meiner Präsentation gegeben und sich meinen Vortrag angehört. Dazu kam die Unterstützung aus den verschiedenen Science-Support-Bereichen, von der Organisation bis hin zum emotionalen Rückhalt. Einen Ort, an dem sich alle so gegenseitig unterstützen, findet man, glaube ich, selten.
„Einen Ort, an dem sich alle so gegenseitig unterstützen, findet man selten“
Wie hat sich deine Forschung während deiner Zeit bei uns weiterentwickelt?
Als ich am CISPA angefangen habe, stand die generative KI noch relativ am Anfang. Damals haben wir uns viel mit Sicherheits- und Datenschutzproblemen bei vergleichsweise einfachen Modellen beschäftigt, beispielsweise mit Klassifikatoren, die zwischen Bildern von Hunden und Katzen unterscheiden.
Heute haben wir dagegen Frontier-Modelle, die unglaublich leistungsfähig sind und eine Vielzahl unterschiedlicher Aufgaben übernehmen können. In den vergangenen Jahren habe ich mich deshalb zunehmend damit beschäftigt, unsere Methoden auf diese komplexen Modelle zu übertragen. So können wir Forschungsfragen bearbeiten, die für die Gesellschaft unmittelbar relevant sind.
Auf welches Projekt oder welchen Moment blickst du mit besonderem Stolz zurück?
Auf den ERC Starting Grant, den ich hier bekommen habe. Das Thema Datenschutz fasziniert mich schon seit meiner Promotion. Ich habe mich immer gefragt, wie wir KI-Modelle so gestalten können, dass sie von Grund auf Garantien für den Schutz der Privatsphäre bieten.
Mit meinem ERC Starting Grant gehen wir jetzt noch einen Schritt weiter. Wir beschäftigen uns gezielt mit Frontier-Modellen, die unglaublich komplexe Trainingsstrukturen haben. Meine Gruppe und ich entwickeln Methoden, mit denen wir diese Trainingsprozesse so gestalten können, dass wir durchgängige Datenschutzgarantien erhalten und Daten auch in realen Anwendungsszenarien schützen können. Wenn uns das gelingt, wäre das aus meiner Sicht ein echter Durchbruch.
Gibt es etwas aus deiner Zeit hier, wissenschaftlich oder ganz persönlich, das dich auch nach München begleiten wird?
Auf jeden Fall die vielen tollen Kontakte zu meinen Kolleg:innen. Ich habe hier fantastische Menschen kennengelernt, mit denen ich unbedingt weiterarbeiten und in Kontakt bleiben möchte. Auch meine bisherigen Forschungsthemen werden mich weiter begleiten. Alles, was ich hier gelernt und erarbeitet habe, wird meine weitere Forschung prägen.
Und persönlich nehme ich natürlich auch saarländische Rezepte mit! Ich habe angefangen, saarländisch zu kochen, und kann mittlerweile zumindest einen Dibbelabbes zubereiten, für den ich mich nicht mehr schämen muss. Damit werde ich auf jeden Fall weitermachen.
Wenn dich jemand fragen würde, wie es ist, am CISPA zu forschen, was würdest du ihm oder ihr erzählen?
Dass es hier ein fantastisches wissenschaftliches Umfeld gibt, in dem man viele Kontakte knüpfen und zahlreiche thematische Anknüpfungspunkte finden kann. Gleichzeitig stehen einem viele Ressourcen zur Verfügung, um wichtige Forschungsfragen anzugehen. Und man hat die Freiheit, seine eigenen Forschungsthemen zu verfolgen. Ich glaube, diese Kombination findet man tatsächlich selten.
Du verlässt das CISPA, aber vermutlich nicht alle gemeinsamen Forschungsfragen. Wo könnten sich unsere Wege künftig wieder kreuzen?
Da gibt es weiterhin viele Anknüpfungspunkte, sowohl thematisch als auch menschlich. Meine Gruppe am CISPA wird an unseren bisherigen Forschungsthemen weiterarbeiten, während ich mich in München stärker den grundlegenden Fragen der Cybersicherheit öffnen möchte. Dabei interessiert mich nicht nur, welche Sicherheits- und Datenschutzrisiken in KI-Modellen bestehen, sondern auch, welche Risiken durch ihren Einsatz entstehen und wie wir die Modelle selbst nutzen können, um Systeme abzusichern.
Ich kann mir gut vorstellen, weiterhin gemeinsam mit Forschenden vom CISPA zu publizieren und neue Forschungsprojekte und Förderanträge anzustoßen. Gemeinsam können wir schließlich noch Größeres erreichen, als es uns allein möglich wäre.
