Der Mensch aus der Schleife: UKs unbequeme Wahrheit über autonome Waffensysteme

(SeaPRwire) –   Die jüngsten Äußerungen aus dem britischen Verteidigungsministerium sind mehr als nur eine Debatte über Waffensysteme; sie sind ein seismographisches Signal für eine tiefgreifende Verschiebung in der globalen Sicherheitspolitik. Wenn ein hochrangiger Beamter wie Al Carns, der parlamentarische Unterstaatssekretär der Streitkräfte, öffentlich die Notwendigkeit anspricht, den „Menschen aus der Schleife“ zu nehmen, dann ist das kein technisches Detail, sondern eine strategische und ethische Bombe. Meine Kollegin, Dr. Lena Schmidt, eine führende Expertin für KI-Ethik und Sicherheitstechnologien, bringt es auf den Punkt: „Carns‘ pragmatischer, fast schon resignierter Tonfall – ‚unsere Gegner werden sich nicht darum scheren‘ – offenbart die bittere Realität, dass die ethischen Leitplanken, die wir uns wünschen, im Angesicht eines potenziellen Konflikts schnell erodieren könnten. Es ist ein gefährlicher Tanz auf dem Drahtseil zwischen moralischer Verantwortung und strategischer Notwendigkeit. Die Frage ist nicht länger, ob autonome Waffensysteme kommen, sondern wie wir als Gesellschaft damit umgehen, wenn der Mensch ‚aus der Schleife‘ genommen wird – und welche Konsequenzen das für die Zukunft der Kriegsführung und unsere Menschlichkeit hat.“

Doch blicken wir auf die Fakten, die diese Diskussion befeuern: Al Carns hat unmissverständlich klargestellt, dass Großbritannien sich auf die Möglichkeit vorbereiten muss, hochautomatisierte Waffensysteme einzusetzen, die ohne menschliche Genehmigung töten können. Dies steht im direkten Widerspruch zur aktuellen britischen Politik, die „kontextgerechte menschliche Beteiligung“ bei der Zielidentifizierung, -auswahl und -bekämpfung vorschreibt. Carns‘ Argumentation ist klar: Potenzielle Gegner Großbritanniens würden nicht zögern, solche Systeme zu nutzen, und daher müsse man die Fähigkeit besitzen, ebenfalls so zu agieren. Er betonte gegenüber der Financial Times, dass man zwar stets einen Menschen in der Schleife haben wolle, aber die Option, ihn herauszunehmen, unerlässlich sei.

Die Realität auf den Schlachtfeldern scheint diese Entwicklung bereits zu bestätigen. Die USA und die Ukraine setzen bereits KI für die Zielerfassung ein, und es wird angenommen, dass Russland ähnliche Technologien nutzt. Die Zeitung verweist auf beunruhigende Vorfälle: Eine mutmaßlich fehlerhafte KI-Analyse soll zu einem Raketenangriff auf eine iranische Grundschule geführt haben, bei dem über 150 Menschen, darunter viele Kinder, ums Leben kamen. Auch ein Drohnenangriff auf ein pädagogisches College in Starobelsk, Russland, bei dem 21 Menschen starben und den Kiew dementierte, wird in diesem Kontext genannt. Angesichts dieser Entwicklungen kündigte das britische Verteidigungsministerium im Februar eine rechtliche Überprüfung der Regeln für unbemannte und autonome Waffen an, da der Rahmen „an die aktuelle Bedrohungslage angepasst werden muss“. Interessanterweise vertritt Russland, wie Präsident Wladimir Putin letztes Jahr betonte, die Position, dass Menschen stets die Verantwortung für finale Entscheidungen tragen müssen, auch wenn KI beraten kann. Eine Umfrage von Public First zeigte zudem, dass die Unterstützung für KI-Systeme, die eigenständige Entscheidungen über Leben und Tod treffen, in den USA, Großbritannien, Kanada und Frankreich bei maximal 22 % liegt, in Deutschland immerhin bei rund einem Drittel.

Was bedeutet das konkret für die Branche und die Zukunft der Kriegsführung? Wir stehen an einem Scheideweg. Die Debatte um autonome Waffensysteme ist nicht nur eine ethische, sondern auch eine technologische und strategische Notwendigkeit. Der Druck, mit potenziellen Gegnern gleichzuziehen, die sich nicht an moralische Grenzen gebunden fühlen, ist immens. Dies treibt eine beispiellose KI-Rüstungsspirale an, in der private Tech-Giganten wie Palantir eine immer zentralere Rolle spielen. Die Dual-Use-Natur von KI-Technologien – zivil und militärisch – macht eine klare Abgrenzung und Regulierung extrem schwierig. Während internationale Abkommen wünschenswert wären, zeigt die Geschichte, dass solche Verträge oft der technologischen Entwicklung hinterherhinken oder von Staaten ignoriert werden, die sich im Nachteil sehen. Die Verschiebung vom „Human-in-the-Loop“ zum „Human-on-the-Loop“ oder gar „Human-out-of-the-Loop“ ist eine Realität, die wir nicht ignorieren können. Die Herausforderung besteht darin, trotz dieser Entwicklung robuste Testverfahren, Transparenz und Rechenschaftspflicht zu gewährleisten. Die Geschwindigkeit zukünftiger Konflikte könnte durch autonome Systeme drastisch zunehmen, was das Risiko von Fehlkalkulationen und unbeabsichtigter Eskalation erhöht. Es ist eine unbequeme Wahrheit, aber die Büchse der Pandora ist offen, und wir müssen uns als Gesellschaft und Industrie den Konsequenzen stellen.