Wie klein ist doch die Welt

„Geht es in einem Gespräch um meine Forschung, muss ich fast immer zuerst erklären, was ein Graph ist. Es hilft dabei leider nicht wirklich, dass der Begriff mit so vielen Bedeutungen überfrachtet ist“, sagt Bojchevski und lacht. Die Graphen, mit denen er sich beschäftigt, sind weder Diagramme noch stellen sie eine mathematische Funktion dar. Spricht er von Graphen, sind mathematische Abstraktionen gemeint, die netzartige Strukturen wie zum Beispiel menschliche Beziehungsgeflechte oder etwa Protein-Protein-Interaktionen darstellen können.

Stellt man sich etwa ein Soziales Netzwerk wie etwa Facebook vor, dann würden dessen Nutzer:innen in einem Graphen als sogenannte Knoten dargestellt, die wiederum durch Kanten verbunden sind. Diese Kanten drücken eine Beziehung aus, also zum Beispiel „ist befreundet mit“. Und damit zurück zum Kleine-Welt-Phänomen. Kleine-Welt-Effekte und andere beobachtete strukturelle Ähnlichkeiten und Muster in Netzstrukturen helfen heute Forscher:innen dabei, graphbasierte Machine-Learning-Modelle (ML-Modelle) zu erstellen. Diese kommen zum Teil auch schon zum Einsatz. So nutzt etwa Google solche Modelle, um in seiner Maps-App die Ankunftszeit an einem Zielort auch bei höherem Verkehrsaufkommen richtig zu bestimmen. Nicht nur die Industrie profitiert von der Künstlichen Intelligenz, auch in der Forschung können graphbasierte ML-Modelle Erstaunliches leisten. So entdeckten 2020 US-amerikanische Forscher:innen mithilfe von KI neben anderen auch das neue Antibiotikum Halicin, das hochwirksam ist ,und selbst bislang resistente Bakterien bekämpfen kann.

„Wenn wir Machine-Learning-Modelle in sicherheitskritischen und so sensiblen Bereichen wie der Medizin einsetzen wollen, dann müssen sie absolut vertrauenswürdig sein“, sagt Bojchevski. Dazu gehört, dass die Modelle und die für die Datenverarbeitung eingesetzten Algorithmen robust sein müssen. Was Robustheit meint, erklärt der Forscher erneut am Beispiel Sozialer Netzwerke. „Machine-Learning-Modelle könnten in Sozialen Netzwerken zum Beispiel vorhersagen, welche Nutzer:innen-Profile echt und welche gefälscht sind", sagt Bojchevski. Die graphbasierten Modelle schauen dabei nicht nur auf die Eigenschaften der Nutzer:innen selbst, also zum Beispiel auf Alter und Geschlecht, sondern auch auf deren Beziehungen zu anderen Nutzer:innen.

„Der Graph ist aber nie ganz korrekt, weil zum Beispiel nicht alle User:innen die gleichen Infos von sich preisgeben, oder aber weil Angreifer:innen den Graphen manipulieren wollen, um eigene Fake-Accounts zu verstecken. Man spricht hier von Rauschen im Graphen, welches die Vorhersage beeinflussen kann. Wenn nun der Graph an wenigen Stellen manipuliert wird und die Modelle schon dann zusammenbrechen oder die Algorithmen falsche Vorhersagen machen, dann sind sie nicht robust genug.“ Um das zu ändern, schlüpft Bojchevski in die Rolle von Angreifer:innen und bricht die Algorithmen, um ihre Schwachstellen aufzudecken. Auf der anderen Seite nimmt er die Rolle des Verteidigers ein und versucht, die Algorithmen zu härten, um sie robuster zu machen. Seine neueste Forschung umgeht jedoch das ewige Katz-und-Maus-Spiel zwischen Angreifer:innen und Verteidiger:innen, da Bojchevski Modelle entwickelt, die garantiert robust und damit unbrechbar sind.

Robustheit ist dabei nur ein Aspekt von Vertrauenswürdigkeit der Modelle. „Zur Vertrauenswürdigkeit gehören auch Fairness, Datenschutz, Erklärbarkeit und das Bewusstsein für mögliche Unsicherheiten. In diesen Bereichen will ich in Zukunft noch sehr viel mehr forschen“, sagt Bojchevski und fügt hinzu: „In all diesen Bereichen gibt es heute noch viele Probleme, auch weil die Entscheidungen und Vorhersagen von komplexen Modellen oft nicht mehr nachvollzogen werden können.“ Der 30-Jährige ist überzeugt, dass die Anwendungsfelder dieser komplexen ML-Modelle dennoch stetig wachsen werden und enormes Potenzial bieten.

Der gebürtige Nordmazedonier hat seine Promotion über Maschinelles Lernen für Graphen an der TU München abgeschlossen, wo er zuvor seinen Masterabschluss in Informatik erworben hatte. Seit September ist er am Zentrum und fühlt sich hier sehr wohl. „Meine Forschungsinteressen passen sehr gut zu der Richtung, in die das CISPA gerade wächst. Mir ist sofort positiv aufgefallen, wie viel Leidenschaft die Forscher:innen am CISPA für das, was sie tun, mitbringen. Das CISPA hat das Potenzial zu etwas ganz Großem zu werden. Ich habe das Gefühl, hier wirklich mitgestalten zu können.“