Wie intelligent dürfen Waffen sein? BDI-Chef fordert KI-Strategie für Rüstungsgüter

Die deutsche Industrie will die Bundesregierung wachrütteln. „Künstliche Intelligenz ist die nächste industrielle Revolution. Sie wird unsere gesamte Gesellschaft erfassen – und damit auch die Streitkräfte“, sagt Dieter Kempf, Präsident des Industrieverbands BDI.

Die neue Technologie biete auch im militärischen Bereich neben riesigen Chancen enorme Risiken. „Natürlich lässt sich mit Künstlicher Intelligenz sowohl Gutes tun wie Böses“, sagte Kempf dem Handelsblatt. „Deshalb müssen wir uns frühzeitig Gedanken darüber machen, welche Art von KI wir wollen und wie wir uns gegen den feindlich gesinnten Einsatz von KI wappnen“, verlangte er.

Zum Auftakt der dreitätigen Münchner Sicherheitskonferenz am Freitag veranstaltet der BDI gemeinsam mit der Vereinigung der Bayrischen Wirtschaft eine Diskussion zu Künstlicher Intelligenz (KI) und Sicherheit. Kempf wird mit Generalleutnant Ludwig Leinhos, Inspekteur der Bundeswehr-Teilstreitkraft Cyber- und Informationsraum (CIR), über die Frage sprechen: „Wie autonom werden Maschinen handeln?“

KI-Technologie ermöglicht maschinelles Lernen. Computer werden bald menschenähnliche Entscheidungsprozesse vollziehen können, auf Basis enormer Datenmengen, die sie in kurzer Zeit auswerten. Bei der Aufklärung, in der Logistik, auch in Kampfeinsätzen können Computer Soldaten unterstützen und ihr Leben schützen. Ebenfalls real ist aber auch die Gefahr, dass autonome Waffensysteme unkontrolliert allein entscheiden zu töten.

Bundeswehr und Industrie sind sich darüber einig, dass sie Killerroboter nicht wollen. „Die Entscheidung über Leben und Tod muss immer ein Mensch treffen, keine Maschine“, sagt Kempf – so, wie es auch Leinhos immer wieder betont hat. Umso wichtiger ist es aus BDI-Sicht, dass die Bundesregierung den KI-Einsatz in Waffensystemen definiert – und auch international aktiv wird: „Ich bin davon überzeugt, dass wir ethische Leitlinien brauchen“, sagte Kempf.

Zentraler Punkt in der neuen fünf Punkte umfassenden „Münchner KI-Erklärung“ des BDI ist deshalb die internationale Ächtung von Killerrobotern, von Militärs „letale autonome Waffensysteme“ (LAW) genannt.

Vorbild Chemiewaffenkonvention

Die Bundesregierung müsse sich dafür international einsetzen, fordert Kempf. Es müsse für LAW ein Verbot nach dem Vorbild der Chemiewaffenkonvention geschaffen werden: Die Einhaltung der Konvention überwacht die Organisation für das Verbot chemischer Waffen in Den Haag, die 1997 eingerichtet wurde.

Die Konvention hat zwar nicht jeden Chemiewaffeneinsatz verhindern können, wie es zuletzt im syrischen Bürgerkrieg zu beobachten war. Sie schaffe aber einen Rahmen, der Sanktionen und das Eingreifen von außen legitimiert, so Kempf. Bei den Vereinten Nationen in Genf ist die Ächtung autonomer Waffen seit Längerem Thema, die Diskussion kommt aber erst schleppend voran.

Die USA, China und Russland investieren derweil auch militärisch stark in KI. US-Militärs sind überzeugt, dass sich bei der militärischen KI-Anwendung zeigen werde, wer künftig die Welt beherrschen kann; entweder weiter die USA oder China. Auch wenn es in Deutschland nur um Verteidigung und nicht um die Weltherrschaft geht: Der BDI verlangt, dass die Bundesregierung KI zur nationalen Schlüsseltechnologie erklärt, um sicherheitsrelevante Algorithmen besonders schützen zu können.

In einem weiteren seiner fünf Punkte verlangt der Industrieverband, dass Deutschland zuallererst seine sicherheitspolitischen Interessen definieren müsse: „Auf den 47 Seiten zur deutschen KI-Strategie finden sich nur zwei Sätze zur Nutzung im militärischen Bereich“, bemängelte Kempf.

Vorgesehen ist zwar der KI-Einsatz in den beiden Waffensystemen, die Deutschland und Frankreich gemeinsam entwickeln wollen. Das ist zum einen das „Future Combat Air System“ (FCAS), das Dassault und Airbus planen, ein Verbund aus einem Kampfjet mit begleitenden unbemannten Drohnenschwärmen.

Zum anderen sollen Rheinmetall, Krauss-Maffei Wegmann und Nexter ein „Main Ground Combat System“ (MGCS) entwickeln, einen Kampfpanzer, ebenfalls mit unbemannten Begleitfahrzeugen. Gerade für die KI-gesteuerten Drohnen müsse Deutschland seine KI-Politik aber endlich konkret mit Frankreich abstimmen, verlangt der BDI.

Und generell, so Kempf, müsse die Forschung ausgebaut werden: Die beschlossenen neuen Lehrstühle an den Bundeswehrhochschulen müssten nun schnell eingerichtet werden. Und die im vergangenen Jahr beschlossene Cyberagentur müsse mit den Bundeswehrhochschulen und dem Cyber-Innovation-Hub der Bundeswehr einen staatlichen Forschungscluster bilden. „Deutschland hinkt bei der KI hinterher“, sagt Kempf. Dies gelte besonders für den Bereich militärischer Anwendungen.

Bundesverteidigungsministerin Ursula von der Leyen (CDU) ist das durchaus klar. Im vergangenen Jahr warb sie auf der Münchner Sicherheitskonferenz für ein unkonventionelles Vorgehen der Bundeswehr bei der Modernisierung der Waffensysteme. Sie hat seither die Gründung einer neuen Cyberagentur angestoßen, nach dem Vorbild der legendären Agentur Darpa des US-Verteidigungsministeriums.

Deren Vorläuferin Arpa wurde 1958 gegründet als Reaktion auf den „Sputnik-Schock“, als es der Sowjetunion als erstem Staat gelungen war, einen Satelliten in den Weltraum zu bringen. Aus dem „Arpa-Net“ entstand das Internet. Nach dem Darpa-Vorbild haben auch die Armeen Israels und Frankreichs Innovationsagenturen gegründet.

Nur langsames Vorankommen

Wie die Darpa mit ihrem Jahresbudget von 3,5 Milliarden Dollar soll auch die deutsche Cyberagentur Entwicklungen aus der Zivilwirtschaft auf ihr militärisches Potenzial abklopfen; sie soll Grundlagenforschung initiieren und Prototypen entwickeln. Allerdings in viel kleinerem Maßstab: Bis 2022 sind für die Agentur, die Verteidigungs- und Innenministerium mit dem Fokus auf Cybersicherheit gemeinsam aufbauen, insgesamt 200 Millionen Euro für Forschungs- und Innovationsprojekte im Bundeshaushalt und dem Finanzplan vorgesehen.

Doch seit dem Kabinettsbeschluss im August 2018 kommt die Agenturgründung nur im Kriechgang voran. Wie aus den beteiligten Ministerien zu erfahren ist, gestalteten sich zuerst die Verhandlungen mit Bundesfinanzminister Olaf Scholz (SPD) äußerst zäh. Als GmbH soll die Agentur für ihre 100 Mitarbeiter höhere Gehälter zahlen dürfen als der öffentliche Dienst: Man will Spitzen-IT-Leute anwerben, also jene Spezialisten, die auf dem Arbeitsmarkt kaum zu finden sind.

Im Finanzministerium stieß die Idee erst grundsätzlich auf Widerstand, jetzt gibt es enge Vorgaben. Anschließend geriet die Cyberagentur in die Mühlen der Kohlekommission: Die Kommission versprach den Braunkohlerevieren des Ostens, neue Bundeseinrichtungen in die strukturschwachen Gebiete zu bringen.

Vor zwei Wochen beschlossen nun von der Leyen und Horst Seehofer, dass die Cyberagentur im Raum Leipzig/Halle angesiedelt wird. Das ist weit weg von den Bundeswehrhochschulen München und Hamburg sowie dem Cyber-Innovation-Hub und der Start-up-Szene in Berlin. Die Universitätsstadt Leipzig hat wie Halle zumindest einen ICE-Anschluss.

Richtig strukturschwach ist allerdings die Gegend dazwischen – wo schnelles Internet und gute Verkehrsverbindungen für anspruchsvolle Forscher auf internationalem Niveau Mangelware sind. Der Erfolg der US-Darpa jedenfalls beruht großenteils auf der Nähe zur Stanford-Universität.

Nach derzeitigem Stand soll der Haushaltsausschuss im März oder im April über die Mittel für Deutschlands Mini-Darpa entscheiden. Noch wird nach dem exakten Standort gesucht, von der bundeseigenen Immobiliengesellschaft Bima. Dabei, meint Kempf, drängt die Zeit. „Der demografische Faktor wird auch für die Bundeswehr zu einer enormen Herausforderung“, sagt er und wirbt: Je mehr Routineaufgaben die Technik den Soldaten abnehmen könne, desto besser.