Die jährliche Generalversammlung bot dem ELSA-Konsortium einen guten Anlass und vor der Kulisse des Lake Windermeres auch einen schönen Rahmen, gemeinsam auf die Errungenschaften und Herausforderungen des Exzellenznetzwerkes im vergangenen Jahr zurückzuschauen. ELSA-Koordinator und CISPA-Faculty Prof. Dr. Mario Fritz dankte in seinem Grußwort dem Konsortium fürs Erreichen vieler wichtiger Meilensteine: „Wir haben im vergangenen Jahr unsere strategische Forschungsagenda veröffentlicht, welche die größten Herausforderungen auf dem Weg zu sicherer und vertrauenswürdiger künstlicher Intelligenz klar benennt und auch adressiert. Was wir mit dieser Agenda erreichen wollen, wird auch durch den erfolgreichen Launch der ELSA-Benchmarks-Plattform unterstützt. Diese Plattform hilft uns, die von uns entwickelten Technologien und Methoden unter realen, anwendungsrelevanten Bedingungen zu testen und ihre Einsatzfähigkeit zu bewerten. Und nicht zuletzt haben wir im ersten ELSA Industry Call mit fünf aufstrebenden Startups zusammengearbeitet und sie unterstützt, ihre Vision von sicherer KI, die der Gesellschaft dient, umzusetzen.“
Industry-Call-Gewinner bereichern das Meeting mit ihrer Perspektive
Antti Honkela , Professor an der Universität Helsinki und Leiter des Arbeitspaketes „Privacy and Infrastructures“ in ELSA, schätzte den Austausch mit den Vertreter:innen der Gewinner-Startups Algomo, OtCCT, QuantPi, Oasys Now und Sarus besonders: „Ich konnte bei diesem Treffen viel über ihre Perspektive zur Anwendung sicherer KI in der echten Welt erfahren.“ Die fünf Gewinner präsentierten zum Abschluss der Zusammenarbeit mit ELSA bei der Generalversammlung ihre Unternehmen und Ergebnisse. Sie alle arbeiten an verschiedenen Themen sicherer und vertrauenswürdiger künstlicher Intelligenz. Hier gibt es mehr Infos zur Arbeit und Vision der Unternehmen: https://elsa-ai.eu/winners-call.
Best Poster Awards für Forschungsnachwuchs
Neben langjährigen KI-Expert:innen aus Forschung und Politik reisten auch viele talentierte PhD-Studierende an, die die ELSA-Vollversammlung als gute Gelegenheit zum Netzwerken und für den fachlichen Austausch betrachteten. In einer Poster- und Pitchsession stellten sie den international renommierten KI-Expert:innen des Exzellenznetzwerkes ihre aktuellen Arbeiten vor. Drei PhD-Studierende wurden am Ende von einer unabhängigen Jury mit einem Best Poster Award ausgezeichnet: die CISPA-Forschenden Alaa Anani und Jan Wehner sowie Marlon Tobaben von der Universität Helsinki. Die von ihnen vorgestellten Arbeiten beschäftigen sich mit Themen wie der Zertifizierung von Machine-Learning-Modellen, neuartige Verteidigungsmechanismen für Large-Language-Modelle sowie Privacy-Schwachstellen in Bild-Klassifikationsmodellen
ELSAs Rolle in der EU und darüber hinaus
Professor Battista Biggio von der Universität Cagliari, der Leiter des ELSA-Arbeitspaketes “Technical Robustness und Safety” ist, blickt zufrieden auf die Entwicklungen des Exzellenznetzwerkes: „ELSA stellt einige große Herausforderungen, für die es keine trivialen Lösungen gibt, und zielt darauf ab, weit über den aktuellen Stand der Technik hinauszugehen, um Fortschritte in der robusten und sicheren KI, bei Technologien zur Wahrung der Privatsphäre und bei erklärbaren KI-Modellen zu fördern. Ich denke, dass ELSA erfolgreich die Grundlage für die Zusammenarbeit zwischen Spitzenforschenden, Institutionen und Unternehmen geschaffen hat und bereits zu bedeutenden Fortschritten in diesem Bereich geführt hat.“ ELSA stützt sich dabei auf das bereits seit 2018 bestehende lebendige Exzellenznetzwerk ELLIS (European Laboratory for Learning and Intelligent Systems) und erweitert es. Dabei nutzt ELSA dessen gesamte Schwungkraft aus.
Professor Plamen Angelov von der Universität Lancaster, Gastgeber des diesjährigen Meetings und Leiter des Arbeitspaketes zu „Human Agency and Oversight“ findet vor allem die Adaptionsfähigkeiten von ELSA bemerkenswert: „Die Entwicklungen wie die breitere Nutzung von GPT und LLMs als technologische Entwicklungen, der EU AI Act und andere ähnliche Initiativen in den USA und im Vereinigten Königreich fanden während der Laufzeit von ELSA statt und waren bei der Konzipierung von ELSA nicht vollständig vorherzusehen, zumindest nicht in zeitlicher Hinsicht. Die Anpassung daran war ein sehr spannender Prozess.“
Blick in die Zukunft
Nicht zuletzt war die Generalversammlung aber auch wichtig, um gemeinsam in die Zukunft zu schauen: Was wollen wir noch erreichen? Ziel sei es, so Biggio, weiter Know-How, innovative Methodologien, Libraries und Tools bereitzustellen, aber auch mit Bildungsmaterialien den Weg für eine sicherere Anwendung von KI-Technologien zu ebnen. Hoffentlich auch über den dieses Projekt hinaus. Angelov, ergänzt: „Wir wollen ein ELSA-Ökosystem schaffen um einen Unterschied zu machen und positive Einfluss zu nehmen. Es ist sehr ermutigend zu sehen, dass ein solches Ökosystem bereits im Entstehen begriffen ist.“ Wer ganz genau hinhörte bekam noch etwas anderes: einen ersten Ausblick auf die anstehende Netzwerkerweiterung, bei der neue Partnerinstitutionen in das Netzwerk aufgenommen werden sollen. ELSA wächst weiter über ich hinaus.
