Bei klassischer Software lässt sich häufig eindeutig feststellen, ob ein Testergebnis richtig oder falsch ist. Bei KI-Systemen ist das schwieriger. Eine Bilderkennung liefert beispielsweise Wahrscheinlichkeiten statt eindeutiger Aussagen. Fehlt ein verlässlich bestimmbares Soll-Ergebnis, spricht man vom sogenannten Testorakelproblem. Gerade bei autonomen Systemen ist dies eine Herausforderung, da ihre Entscheidungen unmittelbare Auswirkungen auf die physische Umgebung haben können.
Hinzu kommen besondere Qualitätsanforderungen. Eine autonome Drohne muss beispielsweise auch bei wechselnden Wetterbedingungen zuverlässig funktionieren, mit anderen Systemen zusammenarbeiten und auf unerwartete Situationen angemessen reagieren. Um solche Risiken frühzeitig zu erkennen, stellte Röttger einen Ansatz namens Risk Storming vor. Dabei identifizieren Fachleute aus Entwicklung, Test und weiteren Disziplinen gemeinsam mögliche Schwachstellen.
Als Orientierung dient das sogenannte C4-Modell, das ein System aus vier Perspektiven betrachtet: seinem Einsatzkontext, den größeren Softwarebausteinen, den einzelnen Komponenten und dem Programmcode. So lassen sich Risiken strukturiert erfassen, ohne ausschließlich auf aufwendige klassische Analyseverfahren zurückzugreifen. Die Ergebnisse können zugleich als Grundlage für die weitere Testplanung und eine nachvollziehbare Dokumentation dienen.
Eine weitere Methode ist das metamorphe Testen. Dabei wird nicht zwingend ein exaktes Ergebnis vorgegeben. Stattdessen prüft man, ob ein KI-System bei gezielten Veränderungen der Eingabedaten erwartbare Zusammenhänge einhält. Wird beispielsweise ein Bild eines Lastwagens gedreht, leicht abgedunkelt oder mit Bildrauschen versehen, sollte die Bilderkennung den Lastwagen unter geeigneten Bedingungen weiterhin erkennen.
Der zentrale Gedanke: Die Qualitätssicherung von KI erfordert sowohl neue Wege der Risikoanalyse als auch angepasste Testverfahren. Werden mögliche Fehlerquellen frühzeitig identifiziert und gezielt geprüft, lassen sich die Zuverlässigkeit und Nachvollziehbarkeit KI-gestützter Systeme verbessern.