Für das wissenschaftliche Gremium wurden 60 weltweit führende, unabhängige Expert:innen ausgewählt, die dort ihr Fachwissen in den Bereichen Frontier AI, Engineering, Technical Auditing und industrielle und gesellschaftliche Auswirkungen bündeln werden. Ein Schwerpunkt ihrer Tätigkeit liegt auf KI-Modellen mit allgemeinem Verwendungszweck (GPAI-Modellen). Zu den Kernaufgaben des Gremiums gehört es, das Europäische Amt für künstliche Intelligenz auf eventuelle systemisch Risiken von GPAI-Modellen aufmerksam zu machen, es zu Klassifizierungs- und Bewertungsmethoden von GPAI-Modellen zu beraten und Marktüberwachungsbehörden auf deren Anfrage hin zu unterstützen.
Sowohl das wissenschaftliche Gremium als auch der Beirat sind von der Europäischen Kommission neu eingerichtet worden, um die Durchsetzung der europäischen KI-Verordnung zu unterstützen. Die beiden Organe beraten das Europäische Amt für künstliche Intelligenz und auch die nationalen Behörden bei der Umsetzung der Vorschriften. Die unabhängigen Mitglieder werden persönlich für eine Amtszeit von zwei Jahren ernannt, wobei eine Verlängerung möglich ist.
Über seine Aufnahme in das wissenschaftliche Gremium des Europäischen Amts für künstliche Intelligenz sagt Mario Fritz: „Die KI hat ihre Fähigkeit bewiesen, Cybervorfälle in Echtzeit zu erkennen und Schwachstellen in großem Umfang aufzuspüren. Gleichzeitig nehmen aber auch ihre offensiven Fähigkeiten stetig zu. Wir müssen jene KI-Fähigkeiten zulassen, die chancenreich und dienlich sind, und die Risikoreichen im gleichen Zug eindämmen. Die Einrichtung des neuen wissenschaftlichen Gremiums des EU AI Office ist ein folgerichtiger Schritt mit gesellschaftlicher und politischer Bedeutsamkeit. Ich fühle mich sehr geehrt, meine fachliche Expertise in vertrauenswürdiger künstlicher Intelligenz dort einbringen zu können.“
Über Mario Fritz
Mario Fritz ist leitender Wissenschaftler am CISPA Helmholtz-Zentrum für Informationssicherheit, Honorarprofessor an der Universität des Saarlandes und Fellow des European Laboratory for Learning and Intelligent Systems (ELLIS). Bis 2018 leitete er eine Forschungsgruppe am Max-Planck-Institut für Informatik. Zuvor war er PostDoc am International Computer Science Institute (ICSI) und an der UC Berkeley, nachdem er an der TU Darmstadt promoviert und an der FAU Erlangen-Nürnberg Informatik studiert hatte. Derzeit leitet er das von der EU geförderte Exzellenznetzwerk „ELSA – European Lighthouse on Secure and Safe AI“. Sein Forschungsschwerpunkt liegt auf vertrauenswürdiger künstlicher Intelligenz, insbesondere an der Schnittstelle von Informationssicherheit und maschinellem Lernen.
