Ein Schwarm unbemannter Systeme erzeugt große Mengen an Sensordaten und eröffnet zahlreiche Handlungsmöglichkeiten. Für den Operator bedeutet das jedoch eine zunehmende Komplexität. Der am Fraunhofer FKIE entwickelte Ansatz setzt deshalb nicht allein auf mehr Autonomie, sondern auf eine KI-gestützte Assistenz, die den Zugang zu den Fähigkeiten des Schwarms vereinfacht und gleichzeitig Informationen strukturiert aufbereitet.
Der sogenannte „KI-Kamerad“ fungiert dabei als Übersetzungsebene zwischen Mensch und Technik. Über natürliche Sprache kann der Operator beispielsweise einen Aufklärungsauftrag formulieren. Der Assistent übersetzt diesen in die entsprechenden Systemfunktionen, kann Gebiete im Lagebild markieren oder Informationen aus den gewonnenen Daten aufbereiten. Nach einer Aufklärungsmission lässt sich das System etwa fragen, welches erkannte gegnerische Objekt am nächsten liegt und wo es sich auf der Karte befindet. Mensch und KI arbeiten dabei auf demselben Lagebild und greifen auf einen gemeinsamen Informationsstand zurück.
Zentral bleibt das Prinzip des Meaningful Human Control. Der Mensch soll Ziele vorgeben, Entscheidungen nachvollziehen und bei Bedarf eingreifen oder Anpassungen vornehmen können. Zum Beispiel reicht es nicht, ihn lediglich formell in jeder Phase bestätigen zu lassen. Zu viele routinemäßige Freigaben können zu Ermüdung und automatischem Bestätigen führen – und damit gerade die gewünschte menschliche Kontrolle schwächen.
Erste Expertenbewertungen mit Bundeswehrangehörigen zeigen nach Burlages Angaben eine grundsätzlich positive Einschätzung des Ansatzes. Besonderes Potenzial wird für weniger erfahrenes oder weniger intensiv geschultes Personal gesehen: Eine intuitive Interaktion könnte den Trainingsaufwand reduzieren und den Zugang zu komplexen Systemen erleichtern, ohne bestehende militärische Verfahren zu ersetzen.
Damit wird KI nicht nur zum Bestandteil autonomer Systeme selbst. Sie kann auch die Schnittstelle zwischen Mensch und wachsender technischer Komplexität bilden – mit dem Ziel, Schwärme einfacher bedienbar zu machen und gleichzeitig die menschliche Entscheidungs- und Kontrollfähigkeit zu erhalten. Hintergrund: Ein vollständig autonomes System benötigt per Definition keine Assistenzfunktion gegenüber dem Menschen. In diesem Anwendungsfall verfügen zwar die Teilsysteme des Schwarms über autonome Funktionen, der Schwarm als Gesamtentität wird jedoch weiterhin vom Menschen geführt.