Je mehr KI unmittelbar auf mobilen und unbemannten Plattformen eingesetzt wird, desto wichtiger wird die Verarbeitung am sogenannten Edge, also direkt dort, wo die Daten entstehen. Gerade in Umgebungen mit eingeschränkter oder gestörter Konnektivität kann nicht vorausgesetzt werden, dass Sensordaten permanent übertragen und extern verarbeitet werden können. Lokale KI-Verarbeitung kann deshalb zu größerer technischer Autarkie beitragen.
Allerdings stehen auf solchen Plattformen Rechenleistung, Energie und thermische Kapazitäten nur begrenzt zur Verfügung. Die entscheidende Frage lautet daher nicht allein, ob ein KI-Modell eine bestimmte Aufgabe lösen kann, sondern ob die Plattform diese Fähigkeit unter realen Betriebsbedingungen zuverlässig bereitstellen kann.
Ein Ansatz liegt in der Optimierung der Modelle selbst. Janzen zeigt am Beispiel der sogenannten Knowledge Distillation, wie ein großes Modell sein Wissen auf ein deutlich kleineres übertragen kann. In einem Versuch zur Bildklassifikation wurde die Modellgröße von 89 Millionen auf 5,5 Millionen Parameter reduziert. Auf einer Edge-GPU sank dadurch der Energiebedarf pro Inferenz erheblich und die Verarbeitung wurde deutlich schneller bei einem vergleichsweise geringen Verlust an Genauigkeit. Das Modell wird damit gezielt an die Ressourcen der Plattform angepasst.
Doch auch diese Ressourcen verändern sich während des Betriebs. Datenaufkommen, Energiebedarf und Temperatur können stark schwanken. Eine adaptive Laufzeitsteuerung soll deshalb Rechenleistung situationsgerecht bereitstellen, anstatt CPU oder GPU dauerhaft mit maximaler Leistung oder pauschal reduziertem Takt zu betreiben. Erste Experimente auf einem kleinen CPU-basierten Edge-Board zeigen, dass dadurch auch bei wechselnden Lastprofilen Energie eingespart werden kann, während die Verarbeitungsrate erhalten bleibt. Die Arbeiten zur adaptiven Laufzeitsteuerung auf unterschiedlichen Edge-Plattformen werden in einem ab Januar 2027 startenden BMFTR-geförderten Projekt weitergeführt.
Für zuverlässige KI am Edge müssen daher Hardware, KI-Modell und Laufzeitsteuerung gemeinsam betrachtet werden. Ziel ist nicht größtmögliche Rechenleistung, sondern eine KI-Fähigkeit, die auch bei begrenzten Ressourcen und veränderten Bedingungen verfügbar bleibt. Mehr technische Autarkie bedeutet dabei nicht weniger menschliche Kontrolle, sondern zunächst eine robustere technische Grundlage für den Einsatz von KI.