Klassische Entscheidungsunterstützung folgt einer klaren Rollenverteilung: Der Mensch handelt, die Technik unterstützt. Auch bei hochautomatisierten Systemen überwacht der Mensch die Maschine und greift bei Bedarf ein. Mit leistungsfähigen KI-Agenten entsteht jedoch eine neue Form der Zusammenarbeit. Dr. Fuchs spricht von Mixed Initiative: Mensch und Maschine arbeiten gemeinsam an einer Aufgabe und können dabei jeweils Initiative übernehmen.
Damit wird die Verteilung von Aufgaben zu einer zentralen Herausforderung. Mensch und KI verfügen über unterschiedliche Stärken, die sich ergänzen können. Abhängig von Situation und Kontext muss jedoch klar sein, wer welche Aufgabe übernimmt und über welche Entscheidungsbefugnisse verfügt. Fehlt diese Transparenz, droht eine „Mode Confusion“: Verantwortlichkeiten werden unklar oder adaptive Systeme arbeiten sogar gegeneinander.
Wie eine solche Zusammenarbeit aussehen kann, untersucht das Fraunhofer FKIE anhand eines Demonstrators zur Schwarmführung. Darin wirken ein menschlicher Operateur, ein virtueller KI-Teampartner, ein Schwarmmanagement und der sich selbst organisierende Schwarm zusammen. Dr. Fuchs spricht bewusst von Schwarmführung statt Schwarmsteuerung: Der Mensch soll nicht mehr jede einzelne Handlung vorgeben, sondern Ziele und Rahmenbedingungen setzen, während andere Aufgaben zunehmend autonom übernommen werden.
Dabei darf der Mensch weder den Überblick verlieren noch zum Engpass des Gesamtsystems werden. Künftige Systeme müssen ihn deshalb dort einbeziehen, wo seine Entscheidung tatsächlich erforderlich ist, ohne ihn gleichzeitig mit Informationen zu überlasten.
Hybride Intelligenz geht damit über klassische Automation hinaus. Wenn KI zum Teampartner wird, müssen Initiative, Verantwortung und Autorität zwischen Mensch und Maschine aktiv koordiniert werden. Gerade für diese Abstimmung und die Lösung möglicher Konflikte sieht Dr. Fuchs noch erheblichen Forschungsbedarf.