E-mail senden E-Mail Adresse kopieren
2026-11-12
David Baus

Wie Unternehmen KI sicher in ihre Prozesse integrieren können

Vom KI-gestützten Recruiting zur Sicherheit unternehmensweiter KI-Anwendungen: Mit POLARIS entwickelt das Startup MONA AI eine Lösung, die Governance, Datenschutz und Kontrolle beim Einsatz von Sprachmodellen zusammenführt. Co-Founder Felix Adam erklärt, welche Risiken entstehen, wenn KI eigenständig auf Unternehmenssysteme zugreift

Künstliche Intelligenz verändert zunehmend die Art, wie Unternehmen arbeiten. KI-Assistenten schreiben längst nicht mehr nur Texte, sondern greifen über Schnittstellen auf Datenbanken, E-Mail-Postfächer und andere Unternehmenssysteme zu. Sie können Informationen abrufen, Prozesse anstoßen und eigenständig Aktionen ausführen. Damit wachsen auch die Anforderungen an Sicherheit, Datenschutz und Kontrolle.

MONA AI kennt diese Herausforderungen aus der eigenen Praxis. Das Unternehmen hat sich zunächst auf KI-Lösungen im Recruiting spezialisiert, wo täglich sensible Bewerber- und Mitarbeiterdaten verarbeitet werden. Aus dieser Erfahrung heraus entwickelt das Team mit POLARIS eine Lösung, die den sicheren Einsatz von KI in Unternehmen ermöglichen soll.

„Je mehr KI in Systeme hineinschaut und selbst Aktionen ausführt, desto wichtiger wird die Frage, wer kontrolliert, was sie darf“, erklärt Co-Founder Felix Adam. POLARIS setzt deshalb als modellagnostische Kontrolleinheit zwischen Unternehmensanwendungen und Sprachmodellen an. Eine Policy Engine überprüft und erzwingt Unternehmensregeln vor jeder Ausführung. Eine Ausführungsschicht mit Kontextisolation begrenzt die Zugriffsrechte der KI. Ergänzend schützen Privacy-Funktionen vertrauliche Inhalte, während Audit-Module die Aktivitäten nachvollziehbar dokumentieren.

„Folgt die KI einer versteckten Anweisung, wird sie daran gehindert, unerlaubte Aktionen auszuführen. Solche Versuche werden blockiert, protokolliert und gemeldet.“

Felix Adam
Mitgründer von MONA AI

Wenn KI eigenständig handelt

Ein besonderes Augenmerk liegt auf sogenannten Indirect Prompt Injections. Dabei verstecken Angreifer Anweisungen beispielsweise in Dokumenten oder Lebensläufen, um KI-Systeme zu unerwünschten Aktionen zu verleiten. POLARIS soll solche Angriffe abfangen, indem es nicht dem Inhalt einer Anweisung vertraut, sondern jede Aktion anhand festgelegter Berechtigungen prüft. „Diese Rechte müssen technisch begrenzt sein und dürfen nicht nur auf Vertrauen beruhen“, betont Adam. Unerlaubte Aktionen werden blockiert, protokolliert und gemeldet. Ergänzend testet MONA AI die Sicherheit durch gezieltes Red-Teaming (simulierte Angriffe auf das eigene System).

Auch die menschliche Aufsicht bleibt ein zentraler Bestandteil. Gerade bei sensiblen Entscheidungen, etwa im Recruiting, darf die Verantwortung nicht vollständig an KI-Systeme übergehen. Das ist auch im Kontext des EU AI Act relevant, der KI-Anwendungen im Recruiting unter bestimmten Voraussetzungen als Hochrisiko-Systeme einstuft und entsprechende Anforderungen an menschliche Aufsicht und Dokumentation stellt.

Wissenschaftliche Grundlage für sichere KI

Die Entwicklung von POLARIS wird durch das Förderprogramm StartUpSecure des Bundesministeriums für Forschung, Technologie und Raumfahrt unterstützt. Die Förderung ermöglicht MONA AI, Sicherheit und Datenschutz auf wissenschaftlicher Grundlage weiterzuentwickeln. In Pilotprojekten mit Unternehmen soll sich die Lösung unter realen Bedingungen bewähren. Zusätzlich stimmt sich das Team fachlich mit dem CISPA ab.

Zunächst richtet sich MONA AI insbesondere an Personaldienstleister und HR-Abteilungen, in denen große Mengen sensibler Daten verarbeitet werden. Langfristig sieht das Unternehmen Einsatzmöglichkeiten in weiteren Branchen und Unternehmensbereichen. Das Ziel: KI-Automatisierung, die nicht nur effizient ist, sondern auch kontrollierbar und vertrauenswürdig bleibt.

Weitere Informationen unter: https://www.mona-ai.de