Zwei Phase-1-Projekte wurden positiv bewertet:
Das Projekt INPUTLAB zielt darauf ab, die Sicherheit von Software-Anwendungen zu verbessern, die strukturierte Datenformate wie XML oder JSON verwenden. Da diese Datenformate oft manuell und unzureichend getestet werden, besteht die Gefahr, dass bei Angriffen Schwachstellen ausgenutzt werden. INPUTLAB begegnet diesem Problem, indem es automatisch Testdaten für diese Formate generiert, sodass Entwickler:innen ihre Anwendungen gründlich auf Fehler überprüfen können. Bei der Markteinführung wird INPUTLAB Testdaten für über 100 gängige Software-Anwendungen bereitstellen und sich auf kritische Geschäftsbereiche wie Finanzen, Telekommunikation und öffentliche Verwaltung konzentrieren.
>> https://cispa.de/inputlab
Das primäre Ziel des Projekts „Aletheia“ des zukünftigen Startups Trustlens ist es, Endbenutzer:innen eine robuste Plattform zur Verfügung zu stellen, die es ermöglicht, digitale Inhalte auf KI-generierte Deepfakes zu überprüfen und nützliche Informationen effizient zu extrahieren und darzustellen. Es kann als Werkzeug für Strafverfolgungsbehörden, Forensik-Expert:innen, Journalist:innen, Mediendienstleister:innen, Datenwissenschaftler:innen und Analyst:innen in verschiedenen Branchen dienen, um datengetriebene Entscheidungs- und Erkennungsprozesse zu unterstützen. Ziel der im Rahmen von StartUpSecure Phase 1 Förderung geplanten Arbeit ist es, die beschriebene Plattform um weitere, neuartige KI-Modelle zur Erkennung zu erweitern.
>> https://cispa.de/trustlens
Weitere drei Projekte haben für Phase 2 grünes Licht erhalten:
Cyberfame erhält vom BMBF eine Förderung für die Umsetzung eines Projekts, das sich auf die Entwicklung einer „Artificial General Cybersecurity Intelligence (AGCI)“ konzentriert. Es zielt darauf ab, das Open-Source-Ökosystem umfassend zu analysieren und zu sichern, um die digitale Infrastruktur Europas zu schützen. Das Tool von Cyberfame dient dazu, die Software in der Supply Chain sicherer zu machen. Damit ist es möglich, Schwachstellen in einzelnen Open-Source-Repositories komplexer Softwareprojekte zu identifizieren. Ziel ist es, in Zukunft Exploids wie Log4J zu vermeiden.
Contexxt.ai entwickelt unter dem Namen „CyberLinguaGuard“ eine Lösung, die Datensicherheit von Wissen in großen, geteilten Technologien sicherstellt. Zwei Technologien stehen im Fokus: Semantische Datenbanken und große Sprachmodelle. Semantische Datenbanken bzw. Wissensgraphen speichern Wissen und Informationen effizient für Wissensextraktion, während Sprachmodelle das extrahierte Wissen zielgruppengerecht formulieren, in diesem Fall eben mit generischem statt personalisiertem Wissen. Diese Technologien dienen als zentrale Wissensassistenten, um unternehmerisches Wissen mithilfe innovativer Management-Tools effizient zu bewahren und zu vermitteln. Die Herausforderung ist hierbei, eine Lösung zu entwickeln, die vertrauenswürdig, sicher und DSGVO-konform ist.
PriMFlow arbeitet mit den Mitteln des BMBF daran, Mechanismen zu entwickeln, mit denen Benutzer:innen die Speicherung ihrer Kundendaten zu widerrufen. Die Produktinnovation besteht in der Auswahl und Anpassung von ML-Ops-Komponenten, die Sicherheits- und Datenschutzanforderungen erfüllen und die Löschung personenbezogener Daten ermöglichen. Technisch gesehen entwickelt das Team fehlende Schnittstellen und Komponenten in der ML-Ops-Architektur. Das Projektziel ist ein Demonstrator, der eine stabile technologische Basis für ein marktfähiges Produkt bietet. Er enthält ein konfigurierte ML-Flow-System, Sicherheitsrichtlinien, Implementierungen für Löschoperationen, Risikostratifizierung und Datenpartitionierung sowie theoretische Ergebnisse und Implementierungen für Modellmanipulationen.
