Erklärbare KI macht Exoskelette verständlich und damit alltagstauglich
„Exoskelette sind schon im Einsatz – aber bisher meist in sehr klar definierten Arbeitsumgebungen. Typischerweise unterstützen sie monotone Bewegungen in Logistik oder Produktion und sind genau dafür voreingestellt“, sagt Julian Rodemann. Soft-Exosuits – die leichtere Variante – funktionieren ähnlich: Sie sind meist task-spezifisch konfiguriert, etwa für wiederholtes Heben oder Sortieren. Für wechselnde Aktivitäten eignen sie sich hingegen kaum. Genau hier liegt laut Philipp Arens, Doktorand an der John A. Paulson School in Harvard, die eigentliche Herausforderung: „Ein Schlüsselproblem liegt darin, Exosuits für sehr unterschiedliche Körper und Bewegungsmuster nutzbar zu machen. Designseitig kann man Geräte leichter und weniger störend gestalten – aber die eigentliche Herausforderung liegt darin, wann und wie viel Unterstützung eine Person braucht. Das variiert individuell. Deshalb wird nutzerbasiertes Feedback in der Assistenz selbst so wichtig“, so Arens.
Um herauszufinden, welche Einstellungen für welche Person optimal sind, setzen die Forschenden auf maschinelle Unterstützung. „Reale Testreihen dauern oft mehrere Stunden“, erklärt Rodemann. „Die Probanden führen verschiedene Bewegungen aus, während meine Kollg:innen vom Biodesign Lab in Harvard kontinuierlich physiologische Daten erfassen. Dadurch ist die Zahl der realistisch testbaren Kombinationen stark begrenzt.“ Das Team nutzt deshalb bayesianische Optimierung – ein Verfahren des maschinellen Lernens, das durch gezieltes Probieren und schrittweises Reduzieren von Unsicherheiten effizient zum Optimum findet.
Der Algorithmus sucht dabei nicht einfach in jeder Runde die vermeintlich beste Einstellung. Er muss auch unbekannte Bereiche des Parameterraums erkunden – selbst wenn eine Konfiguration kurzfristig für den Nutzenden weniger komfortabel ist. „Wir unterscheiden zwischen Exploitation, also dem Nutzen des vorhandenen Wissens, und Exploration, dem gezielten Ausprobieren zur Schließung von Wissenslücken“, sagt Rodemann. Diese Balance ist entscheidend für adaptive Exosuits. „Viele Optimierungsverfahren sind für die Nutzenden Black Boxes. Sie wissen nicht, welche Einstellung vorgeschlagen wird – und erst recht nicht warum. Wenn wir ihnen klar und granular erklären können, was das System als Nächstes tun will und aus welchem Grund, steigt nicht nur das Vertrauen. Die Person kann auch selbst beurteilen, welche Bereiche des Parameterraums nicht sinnvoll sind – und wir vermeiden unnötige Tests“, sagt Arens.
Um diese Transparenz herzustellen, haben Rodemann und seine Kolleg:innen ShapleyBO entwickelt – eine Methode, die Optimierungsentscheidungen nachvollziehbar macht. „Bisher sah der Mensch nur das Ergebnis, etwa dass jetzt ‘Unterstützungsstärke 7 beim Bücken und Stärke 3 beim Heben’ eingestellt ist. Mit ShapleyBO zeigen wir, welche der Parameter zur Empfehlung geführt haben. Wir erklären zusätzlich, ob der Vorschlag der Optimierung oder der gezielten Erkundung neuer Einstellungen dient. So können Nutzende einschätzen, ob der Vorschlag in der Situation wirklich sinnvoll ist und bei Bedarf eingreifen“, erklärt Rodemann. Damit wird die zuvor abstrakte Balance aus Exploration und Exploitation für Nutzer:innen sichtbar.
„Der Algorithmus kennt Muster aus vielen Nutzerdaten, der Mensch kennt seine aktuelle Situation am besten. Die Frage ist, wie sich beides effizient kombinieren lässt“, sagt Rodemann. Das Verfahren befindet sich noch in der Entwicklung und wurde bislang anhand von Simulationsdaten eines realen Soft-Exosuits getestet. Als Nächstes sollen Nutzerstudien untersuchen, wie Menschen mit erklärbaren Optimierungsvorschlägen interagieren. „Human-in-the-loop-Ansätze sind sehr leistungsfähig, aber sie sind aufwändig und belasten Teilnehmende. Ein vielversprechender nächster Schritt ist, Nutzergruppen-spezifische Startpunkte zu entwickeln – also ‘warm starts’, die auf typischen Profilen basieren. Dadurch könnten wir Optimierungen beschleunigen oder in manchen Fällen sogar ganz vermeiden“, so Philipp Arens. Rodemann sieht darin einen grundlegenden Fortschritt: „Unser Ansatz hat das Potenzial, nicht nur die Personalisierung von Exosuits zu verbessern, sondern auch das Vertrauen in KI-basierte Unterstützungssysteme insgesamt zu stärken.“
"Explaining Bayesian Optimization by Shapley Values Facilitates Human-AI Collaboration For Exosuit Personalization"
Autoren: Julian Rodemann, Federico Croppi, Philipp Arens, Yusuf Sale, Julia Herbinger, Bernd Bischl, Eyke Hüllermeier, Thomas Augustin, Conor J. Walsh, Giuseppe Casalicchio
"Preference-based assistance optimization for lifting and lowering with a soft back exosuit"
Autoren: Philipp Arens, D. Adam Quirk, Weiwei Pan, Yaniv Yacoby, Finale Doshi-Velez, and Conor J. Walsh