Herzlichen Glückwunsch zu deinem neuen Status als Tenured Faculty am CISPA! Was bedeutet dieser Meilenstein für dich?
Vielen Dank. Für mich ist der Status als Tenured Faculty ein Zeichen dafür, dass ich älter werde, nicht nur im wörtlichen, sondern auch im intellektuellen Sinne. Es ist wirklich ein wichtiger Meilenstein in meiner akademischen Laufbahn, denn er gibt mir die Freiheit, ambitionierte, langfristige Forschungsfragen zu verfolgen und dabei mutiger vorzugehen.
Was hat dir das CISPA als Forscher gegeben, das du anderswo vielleicht nicht gefunden hättest?
Die Arbeit am CISPA ist für mich etwas Besonderes, weil ich hier mein wertvollstes Gut, Zeit, der Forschung widmen kann, von der ich glaube, dass sie die größte Wirkung erzielen kann. Ich habe mich vor vier Jahren für das CISPA entschieden, weil mich seine Vision und sein konsequentes Streben nach exzellenter Forschung sehr angesprochen haben.
Darüber hinaus bietet mir das CISPA als junges und schnell wachsendes Forschungszentrum die einzigartige Möglichkeit, nicht nur ambitionierte Forschung zu betreiben, sondern auch seine Zukunft mitzugestalten und zu etwas beizutragen, das weit über mich selbst und meine eigene Forschungsgruppe hinausgeht. Ebenso wichtig sind meine Kolleg:innen, sowohl Forschende als auch Mitarbeitende der Verwaltung, deren Unterstützung, Zusammenarbeit und positive Haltung das CISPA zu einem außergewöhnlichen Arbeitsplatz machen.
Besonders dankbar bin ich auch den aktuellen und ehemaligen Mitgliedern des Rational Intelligence Lab, die aus einem Forschungsweg, der durchaus recht einsam hätte sein können, eine ebenso schöne wie unvergessliche gemeinsame Erfahrung gemacht haben.
Wenn du nach vorn blickst: Mit welchen grundlegenden Herausforderungen des maschinellen Lernens möchtest du dich in deiner Forschung beschäftigen?
Ich vergleiche die Art und Weise, wie wir heutige Modelle des maschinellen Lernens trainieren, oft mit den Gefangenen in Platons Höhlengleichnis. Wie die Gefangenen lernen unsere Modelle nur anhand eines begrenzten Ausschnitts der Realität und müssen aus unvollständigen Beobachtungen erschließen, wie die Welt funktioniert. Anders als im Gleichnis haben sie jedoch nur selten die Möglichkeit, die Höhle zu verlassen und zu überprüfen, ob das, was sie gelernt haben, tatsächlich der Realität entspricht.
Genau das motiviert meine Forschung. In den kommenden Jahren möchte ich besser verstehen, wie wir Maschinen entwickeln können, die rational lernen, wenn Wissen unvollständig ist, Anreize nicht aufeinander abgestimmt sind und die Welt selbst nicht stillsteht. Wenn KI-Systeme in der realen Welt zuverlässig funktionieren sollen, müssen sie in der Lage sein, unter Unsicherheit zu schlussfolgern, strategisches Verhalten vorauszusehen und sich an Umgebungen anzupassen, die sich im Laufe der Zeit verändern.
Traditionelles maschinelles Lernen geht häufig davon aus, dass wir vollständiges Wissen über das jeweilige Lernproblem haben. Stellen wir uns ein KI-System vor, das anhand von Bildern aus einem einzigen Krankenhaus darauf trainiert wurde, Hautkrebs zu erkennen. Wenn wir davon ausgehen, dass dieser Datensatz alle Patient:innen repräsentiert, kann das System bei der Diagnose von Menschen mit anderen Hauttönen oder bei Bildern, die mit anderen Kameras aufgenommen wurden, zu selbstsicher werden. Das kann dazu führen, dass Krankheiten übersehen oder unnötige Behandlungen durchgeführt werden.
Gleichzeitig müssen wir, da Systeme des maschinellen Lernens immer leistungsfähiger und weiter verbreitet werden, sorgfältig über die Anreize der Menschen nachdenken, die mit ihnen interagieren. Stellen wir uns ein KI-System vor, das bei der Entscheidung hilft, wer einen Kredit erhalten soll. Wenn es mit historischen Entscheidungen trainiert wird, die menschliche Vorurteile enthalten, könnte es diese Vorurteile einfach verstärken und es bestimmten Gruppen dadurch erschweren, einen Kredit zu erhalten. Sobald Menschen jedoch wissen, dass eine KI die Entscheidung trifft, können sie auch lernen, das System gezielt zu beeinflussen, um ihre Chancen auf eine Bewilligung zu erhöhen. Infolgedessen agiert die KI nicht mehr in derselben Welt, in der sie trainiert wurde.
Viele KI-Systeme arbeiten nicht mehr isoliert, sondern sind in größere soziale und wirtschaftliche Systeme mit Millionen von Nutzer:innen eingebettet. Ihre Vorhersagen und Entscheidungen können das Verhalten und das Wohlergehen von Menschen beeinflussen – im Guten wie im Schlechten – und zugleich Möglichkeiten für strategische Manipulation schaffen.
Und schließlich steht auch die Welt selbst nicht still. Manchmal verändert sie sich gerade aufgrund der Vorhersagen, die unsere Modelle treffen. Stellen wir uns eine Navigations-App vor, die die schnellste Route empfiehlt. Wenn Millionen von Fahrer:innen derselben Empfehlung folgen, kommt es auf dieser Route zu Staus und die Vorhersage stimmt nicht mehr.
Das stellt eine der grundlegenden Annahmen des maschinellen Lernens infrage: dass die Umgebung gleichbleibt. Tatsächlich beeinflussen KI-Systeme zunehmend genau die Welt, die sie vorherzusagen versuchen. Wenn sie zuverlässig funktionieren sollen, müssen wir sie so konzipieren, dass sie diese sich verändernden Wechselwirkungen verstehen und sich an sie anpassen können.
Letztlich ist es mein Ziel für die kommenden Jahre, die Grundlagen für KI-Systeme zu entwickeln, die über das, was sie nicht wissen, schlussfolgern, die Anreize in ihrem Umfeld verstehen und sich rational an eine sich verändernde Welt anpassen können.
Deine Forschungsgruppe heißt Rational Intelligence Lab. Was macht ein KI-System nicht nur intelligent, sondern rational?
Für mich geht rationale Intelligenz über Mustererkennung hinaus. Heutige KI-Systeme sind bemerkenswert gut darin, Muster in Daten zu erkennen, doch Intelligenz sollte mehr umfassen als das Erkennen von Korrelationen. Ein wirklich rationales System sollte auch verstehen, warum diese Muster entstehen und wie sie mit der Welt zusammenhängen.
Auf einer tieferen Ebene sollte ein solches System die Grenzen seines eigenen Wissens verstehen. Es sollte erkennen, wenn die verfügbaren Hinweise nicht ausreichen, und bereit sein zu sagen: „Ich weiß es nicht“, anstatt mit ungerechtfertigter Sicherheit zu antworten. Diese Idee wird häufig als epistemische Demut bezeichnet. Sie erinnert an eine berühmte, Sokrates zugeschriebene Erkenntnis: Wahre Weisheit beginnt mit dem Wissen darüber, was man nicht weiß.
Ein rationales System sollte beispielsweise erkennen, dass ein und dasselbe beobachtete Muster häufig mehr als eine mögliche Erklärung haben kann. Wenn sowohl der Verkauf von Speiseeis als auch die Zahl der Badeunfälle im Sommer steigen, sollte ein rationales System nicht daraus schließen, dass der Kauf von Speiseeis Badeunfälle verursacht (und daher der Verkauf von Eiscreme verboten werden muss). Stattdessen sollte es alternative Erklärungen in Betracht ziehen, etwa dass heißes Wetter beides begünstigt.
Ein rationales System sollte außerdem in der Lage sein, über seine eigenen Schlussfolgerungen nachzudenken und aus seinen Fehlern zu lernen. Ähnlich wie Wissenschaftler:innen eine Hypothese überarbeiten, wenn neue Erkenntnisse auftauchen, sollte auch ein KI-System seine Überzeugungen aktualisieren können, anstatt stur an seinen ursprünglichen Schlussfolgerungen festzuhalten.
Es sollte außerdem widerstandsfähig gegen Manipulation sein. Ein selbstfahrendes Auto sollte beispielsweise ein Stoppschild nicht mit einem Geschwindigkeitsbegrenzungsschild verwechseln, nur weil jemand ein paar Aufkleber darauf angebracht hat. Ebenso sollte ein KI-Assistent erkennen, wenn ein:e Nutzer:in versucht, seine Schlussfolgerungen zu manipulieren oder auszunutzen.
Schließlich sollte es in der Lage sein, fehlende Wissensbestandteile auf schlüssige Weise zu ergänzen. So wie ein Kind, das verstanden hat, wie Fahrräder und Motorräder funktionieren, vernünftige Vorhersagen über einen Elektroroller treffen kann, ohne zuvor einen gesehen zu haben, sollte ein intelligentes System in der Lage sein, das Gelernte auf unbekannte Situationen zu übertragen.
Wenn du über einzelne Projekte hinausblickst: Welche große Frage möchtest du mit deiner Forschung letztlich beantworten?
Eine Frage, die mich nachts wachhält, lautet: Wird die Lücke zwischen dem, was wir wissen, und dem, was wir nicht wissen, jemals wirklich verschwinden, wenn wir immer weiter lernen?
Zu dieser Frage gibt es zwei mögliche Haltungen. Eine optimistische Perspektive, die einige Philosohphen vertreten haben, besagt, dass Lernen unsere Unwissenheit stetig verringert. Die Dinge, die wir heute nicht wissen, sind demnach schlicht Tatsachen, die wir noch nicht entdeckt haben. Mit mehr Daten, besseren Modellen und größerer Rechenleistung wird also Unbekanntes zu Bekanntem, und die Lücke zwischen Wissen und Unwissenheit wird immer kleiner.
Eine skeptischere Sichtweise geht davon aus, dass Lernen Unwissenheit nicht beseitigt. Vielmehr macht es uns bewusster, wie viel wir nicht wissen. Jeder wissenschaftliche Durchbruch beantwortet einige Fragen, wirft aber zugleich viele neue auf. Jedes Modell vereinfacht die Realität und macht dabei Annahmen sichtbar, die uns zuvor nicht aufgefallen waren. Und jeder technologische Fortschritt schafft neue Herausforderungen, die wir nicht vorhergesehen haben. Aus dieser Perspektive verkleinert Wissen nicht einfach nur das Unbekannte, sondern erweitert zugleich die Grenze dessen, was noch verstanden werden muss.
Ich glaube, die Wahrheit liegt irgendwo dazwischen. Die Wissenschaft hilft uns, wichtige Fragen zu beantworten, doch jede Antwort bringt auch neue Fragen zum Vorschein, von denen wir zuvor nicht wussten, dass wir sie stellen sollten.
Beim maschinellen Lernen zeigt sich dasselbe Muster. Je leistungsfähiger unsere Modelle werden, desto mehr Probleme lösen sie, die früher unerreichbar schienen. Gleichzeitig schaffen sie aber auch neue Herausforderungen, um die wir uns zuvor keine Gedanken machen mussten. KI-Systeme können beispielsweise mit großer Überzeugung Dinge erfinden, unzuverlässig werden, wenn sich die Welt verändert, von Nutzer:innen manipuliert werden oder sogar genau die Umgebung verändern, die sie vorherzusagen versuchen. Mit anderen Worten: Je leistungsfähiger KI wird, desto komplexer wird auch die Art ihrer Unsicherheit.
Ich glaube, diese Frage ist immer wichtiger geworden, weil wir in eine Ära eintreten, in der KI zu einem unverzichtbaren Partner bei unserem Wissenserwerb wird. Sie hat es schneller, günstiger und einfacher als je zuvor gemacht, Informationen zu erzeugen. Gleichzeitig hat sie jedoch die Grenze zwischen echtem Wissen und überzeugend wirkenden Falschinformationen zunehmend verschwimmen lassen.
Die Herausforderung besteht daher nicht mehr nur darin, mehr Informationen zu gewinnen. Es geht darum, zu wissen, welchen Informationen wir vertrauen können, und die Grenzen dessen zu erkennen, was wir tatsächlich wissen.
Ob die Lücke zwischen Wissen und Unwissenheit jemals wirklich verschwinden wird, bleibt eine offene Frage. Ich vermute, dass sie es nicht tun wird. Wenn das stimmt, sollte unser Ziel jedoch nicht darin bestehen, Unsicherheit zu beseitigen, sondern KI-Systeme zu entwickeln, die verantwortungsvoll mit ihr umgehen können: Systeme, die wissen, was sie wissen, erkennen, was sie nicht wissen, und entsprechend handeln. Für mich ist genau das das Versprechen von Rational Intelligence.
Wenn du auf deine bisherige Zeit am CISPA zurückblickst, worauf bist du am meisten stolz?
Ich würde sagen, meine größte Errungenschaft besteht darin, Forschungsfragen gefunden zu haben, die mir wirklich wichtig sind und denen ich bereit bin, meine berufliche Laufbahn zu widmen. Ein klares Gefühl dafür, was ich erreichen möchte, hat mir das Selbstvertrauen gegeben, langfristig in anspruchsvolle Probleme zu investieren.
Ebenso wichtig war es, ein Team rund um diese Vision aufzubauen. Ich bin dankbar, dass sich viele talentierte Nachwuchsforschende entschieden haben, zu mir ans CISPA zu kommen. Für mich ist das einer der erfüllendsten Aspekte der Wissenschaft: nicht nur selbst das Wissen voranzubringen, sondern auch ein Umfeld zu schaffen, in dem andere wachsen und ihre beste Arbeit leisten können.
Denkst du, dein neuer Tenure-Status wird Einfluss darauf haben, welche Forschungsfragen du verfolgst oder wie du deine Forschungsthemen auswählst?
Ich weiß es ehrlich gesagt nicht. Je mehr ich lerne, desto stärker wird mir bewusst, wie viel noch zu verstehen bleibt. Statt einem festen Fahrplan zu folgen, versuche ich, meiner Neugier zu folgen. Im Moment führt mich diese Neugier in Richtung Philosophie, Erkenntnistheorie, Metakognition und vielleicht sogar Quantencomputing. Wohin sie mich letztlich führen wird, weiß ich nicht. Aber genau das ist eine der Freuden des Forschens und eines der größten Privilegien, die eine Entfristung mit sich bringt.
