Das kürzlich gegründete KI-Exzellenzzentrum European Lighthouse on Secure and Safe AI (ELSA) bestehend aus europäischen Spitzenforscher:innen, traf sich vom 10. bis 12. Oktober zum ersten Mal für drei Tage in Barcelona. Das große und wachsende Netzwerk soll die Entwicklung und den Einsatz modernster KI-Lösungen in der Zukunft fördern und Europa zum weltweiten Leuchtturm der vertrauenswürdigen KI machen. Ziel des Treffens der derzeit 26 Partner:innen war es, die drängenden Herausforderungen bzgl. der Sicherheit von künstlichen Intelligenz und des maschinellen Lernens voranzutreiben. ELSA baut auf dem European Laboratory for Learning and Intelligent Systems (ELLIS) - einem international anerkannten Exzellenznetzwerk für KI - auf und erweitert es.
Am ersten Tag des Kick-off Events lernten sich die Partner:innen aus Forschung und Industrie gegenseitig kennen und besprachen die geplanten Aktivitäten in den nächsten drei Jahren. Der Koordinator des ELSA-Projekts und CISPA-Faculty, Prof. Dr. Mario Fritz sagte: „Wir wollen vertrauenswürdige künstliche Intelligenz entwickeln. Das heißt, wir wünschen uns in der Zukunft eine gesetzeskonforme, ethisch korrekte und stabile Anwendung der KI innerhalb Europas. Die Gestaltung dieser Technologien liegt in unserer Verantwortung und ebenso die Entwicklung der positiven Auswirkungen auf die Gesellschaft.“
Am zweiten Tag arbeiteten die Forscher:innen im Rahmen eines Workshops an sechs Anwendungsfällen, welche in den nächsten Jahren innerhalb des ELSA-Projektes näher untersucht werden. Die Anwendungsfälle beziehen sich auf die verschiedenen Nutzungsmöglichkeiten von KI und ML in der Zukunft für die neue Methoden erforscht werden und der Fortschritt mit Experimenten messbar gemacht wird.
Die Anwendungsfälle sind:
GESUNDHEIT
Das Gesundheitswesen ist ein sensibler Bereich, der höchste Anforderungen an den Datenschutz stellt. Das ELSA-Projekt konzentriert sich auf medizinische Daten und wie auf diesen datenschutzkonform über verschiedenen Institutionen hinweg KI trainiert werden kann.
AUTONOMES FAHREN
Autonome Fahrzeuge sind sicherheitskritische Systeme. Diese müssen nicht nur eine hervorragende Leistung erbringen, sondern auch auf Unerwartetes angemessen reagieren. Das können beispielsweise gegnerische Angriffe, extreme Wetterbedingungen oder Unfälle sein. Ziel des ELSA-Projektes ist es, Testumgebungen zu entwickeln, um die Sicherheit von solchen Methoden zu bewerten.
ROBOTIK - LERNEN DURCH MENSCHLICHE INTERAKTION
Maschinen in die Lage zu versetzen, mit oder sogar ohne menschliche Unterstützung kontinuierlich zu lernen und Aufgaben eigenständig zu erledigen, ist ein Ziel der Robotik. Um dieses Ziel zu erreichen, müssen die den intelligenten Maschinen zugrundeliegenden ML-Modelle mit großen Mengen von Daten trainiert werden. Ziel des ELSA-Projektes ist dafür zu sorgen, dass Daten effektiv für den Lernprozess genutzt werden können, ohne dass dabei die Privatsphäre von Personen verletzt wird.
MEDIENANALYTIK - KAMPF GEGEN DESINFORMATION
Dank der Leistungsfähigkeit von modernen Techniken werden Deepfakes leichter ermöglicht und daraufhin in den Medien verbreitet. Ein Deepfake ist ein mit Hilfe künstlicher Intelligenz erstelltes Bild oder Video, das authentisch wirkt, es aber nicht ist. Während in den vergangenen Jahren KI-generierte Bilder Hinweise auf den Fake enthielten, sind die heutigen Ergebnisse weit weniger erkennbar. In diesem Anwendungsfall werden neue Wege zum Verständnis und zur Erkennung gefälschter Daten untersucht.
CYBERSICHERHEIT - ERKENNUNG VON MALWARE
Die Sicherheit von Endnutzergeräten ist eine gewaltige und schwierige Aufgabe. Um Schadprogramme zu bekämpfen, werden viele Anti-Malware-Lösungen durch maschinelles Lernen und datengesteuerte KI-Algorithmen unterstützt. Leider können diese Schutzmechanismen auch von Angreifern durch einen Angriff auf die KI selbst umgangen werden. Das ELSA-Projekt zielt darauf ab, dieses Problem zu überwinden, indem KI-basierten Malware-Erkennungssystemen resilienter gegen solchen Angriffe gemacht werden können oder einige dieser Angriffe sogar ganz ausgeschlossen werden können.
DOKUMENTENINTELLIGENZ
Die automatische Verwaltung von Dokument-Inhalten ist ein zentraler Aspekt von KI-Lösungen für Unternehmen und dient der Prozessautomatisierung. Die Auswertung der aus den Dokumenten gewonnenen Informationen führt zu Entscheidungsprozessen der KI, die sich direkt auf den Menschen auswirken können. Gleichzeitig enthalten Dokumente in der Regel private Informationen, was den Zugang zu ihnen einschränkt. Das ELSA-Projekt will Methoden für das Training umfangreicher ML-Modelle auf privaten und weit verteilten Daten entwickeln, die die Privatsphäre der Menschen schützen.
Mehr Informationen zu den Anwendungsfällen unter: https://www.elsa-ai.eu/use_cases.html
Am Mittwoch, dem letzten und abschließenden Tag der Auftaktveranstaltung, hatten die Teilnehmer:innen die Gelegenheit, sich in einer Postersession über die Forschungsarbeiten der anderen Teilnehmer:innen zu informieren. ELSA-Partner:innen präsentierten wissenschaftliche Poster zu den Themen künstliche Intelligenz und Machine Learning. In einer Abschlussdiskussion wurden die Ergebnisse der letzten Tage zusammengefasst und die Vision des ELSA – European Lighthouse on Secure and Safe AI gefestigt.
Prof. Dr. Mario Fritz abschließend: „Es war ein großartiger Start für das ELSA-Projekt in Barcelona. Wir sind hoch motiviert, den Aufbau des virtuellen Exzellenzzentrums für sichere KI in Europa voranzutreiben.“
Weitere Informationen zum Projekt finden Sie unter: https://www.elsa-ai.eu