Beispielhaft kann der Einsatz von KI-gesteuerten Drohnen und Überwachungssystemen im Ukrainekonflikt genannt werden. Beide Seiten setzen moderne Technologien ein, um die Effizienz und Präzision ihrer militärischen Operationen zu erhöhen. Insbesondere die Ukraine hat KI genutzt, um feindliche Bewegungen zu überwachen und gezielte Angriffe durchzuführen, wodurch die Reaktionszeit erheblich verkürzt wurde und Verluste minimiert werden konnten. Wie verändert also künstliche Intelligenz bestehende und zukünftige Kriege? Welche Gefahren drohen, wenn wir Kriegsführung in die Hände von Maschinen legen?

In Gaza setzen die Israelis verstärkt auf künstliche Intelligenz bei der Suche nach der Hamas. […] Die Armee hat im Februar 2023 zugegeben, dass sie sich bei der Auswahl ihrer Beschussziele auf künstliche Intelligenz verlässt. Laut Recherchen israelischer Investigativmedien soll die KI im Gaza-Krieg jedoch eine größere Rolle spielen als bisher angenommen. Schon vor dem 7. Oktober war bekannt, dass die KI-Maschine „Gospel“ zum Einsatz kommt. Sie erstellt Listen möglicher Angriffsziele – also militärisch genutzte Gebäude und Stellungen. Jetzt soll zusätzlich noch das Programm „Lavender“ verwendet werden, das dem Militär ermöglicht, binnen kurzer Zeit Listen Tausender Zielpersonen vorzulegen, die als Terroristen eingestuft werden.

Laut den Recherchen der israelischen Plattformen „+972“ und „Local Call“, die auch vom britischen „Guardian“ überprüft werden konnten, soll die Armee in der ersten Kriegsphase mittels „Lavender“ rund 37 000 Hamas-Leute identifiziert haben. Das Militär bestätigt dies nicht. Ein Armeesprecher betont, dass stets Menschen die letzte Instanz bei der Auswahl von Schusszielen sind. […] Die KI-erstellten Listen dienen Luftwaffe, Marine und Bodentruppen als Grundlage ihrer Einsatzplanung. Nach der Anfangsphase des Krieges habe die Armee diese Listen stichprobenartig überprüft […].Man kam zum Ergebnis, dass „Lavender“ in zehn Prozent der Fälle falsch lag und Zivile irrtümlich als Terroristen markierte. Unter 1000 von der Armee getöteten Personen waren demnach 100 Unschuldige. […] Die Debatte über KI im Krieg ist relativ jung. Da die internationalen Regeln zur Kriegsführung immer erst mit Verzögerung an die technischen Möglichkeiten angepasst werden, gibt es keine Standards dafür, was KI darf und was nicht. Gaza dient somit als eine Art Testlabor – für die Rüstungsentwicklung, aber auch für das internationale Kriegsrecht.

Quelle: Maria Sterkl: Künstliche Intelligenz im Gaza-Krieg: das tödliche virtuelle Labor. Frankfurt: Frankfurter Rundschau 28.04.2024. https://www.fr.de/politik/gaza-das-toedliche-virtuelle-labor-93039081.html (Zugriff: 17.07.2024) (verändert)

1. Nehmen Sie ausgehend von einer kurzen Bildbeschreibung (M 1) in einem ersten Spontanurteil Stellung zur Frage, ob künstliche Intelligenz und Robotik in der Kriegsführung verboten werden sollten. Positionieren Sie sich dazu auf einer Meinungslinie und begründen Sie Ihr Urteil.

2. Analysieren Sie anhand der Reportage und des Fallbeispiels (M 3), in welcher Form künstliche Intelligenz bereits heute, zum Beispiel im Gazakrieg, zum Einsatz kommt.

3. Diskutieren Sie in Kleingruppen die Aussage von M 3, dass der Gazakrieg aktuell als „Testlabor“ für die Rüstungsentwicklung und das internationale Kriegsrecht diene.

Künstliche Intelligenz (KI) beschreibt die Fähigkeit von Systemen, menschenähnliche Denk- und Entscheidungsprozesse zu simulieren. Dabei basiert KI auf Algorithmen und maschinellem Lernen, um Muster und Zusammenhänge zu erkennen. […] Eine dieser Formen bildet die Hard- und Software, die längst auf dem Schlachtfeld angekommen ist. Im militärischen Kontext wird künstliche Intelligenz dafür eingesetzt, komplexe Probleme zu lösen, die Sicherheit menschlicher Einsatzkräfte zu erhöhen, strategische Entscheidungen zu treffen und automatisierte Aufgaben zu übernehmen. […]

Jede Militärmacht versucht, in der Entwicklung von KI fortschrittlicher zu sein als der Gegner. Insbesondere, wenn es um Informationsüberlegenheit geht. Wir bewegen uns auf eine Welt zu, in der nicht nur Armeen, sondern auch nichtstaatliche Akteure in der Lage sein werden, tödliche, autonom agierende Waffen einzusetzen. Wie es der Name schon sagt, handelt es sich um Waffen mit dem Potenzial zum Töten. Was bedeutet dieser Fakt für die Würde des Menschen, wenn das Töten im Krieg auf Algorithmen ausgelagert wird? Wird der Mensch dadurch zu einem Objekt? Für gefallene Soldaten oder Zivilisten mag es zwar keinen Unterschied mehr machen, ob sie durch eine autonom agierende Waffe oder einen Menschen gefallen sind. Doch über die Gesellschaft, die solch ein Vorgehen erlaubt, [und] […] über deren grundlegenden Werte und humanitären Prinzipien [sagt es einiges] aus. Treten wir die Entscheidung, ein Leben zu beenden, an Algorithmen ab? Das ist wohl eine der drängendsten Fragen unserer Zeit.
[…] Bisher wurden Roboter noch wie Spielzeug ferngesteuert und waren direkt an die Befehle eines Menschen gebunden. Schnell erkannte das Militär das Potenzial der künstlichen Intelligenz für ihren Einsatz und begann nach Möglichkeiten der Integration zu suchen. So kann KI in der Informationsauswertung eine führende Rolle übernehmen, indem sie Informationen sammelt, verarbeitet und für Militärs aufbereitet. Denn nur auf Grundlage von ausreichend Informationen können im Krieg wichtige Entscheidungen getroffen werden. […] Im Militär soll die KI jetzt jedoch komplexere Aufgaben erfüllen, bei denen sie eigenständig Situationen einschätzen und mit unvorhergesehenen Problemen umgehen können muss. Die KI benötigt also ein gewisses Maß an Intelligenz, um dieser Aufgabe gerecht zu werden. […]
Die Möglichkeit, autonome Systeme einzusetzen, zeigt aus kriegsvölkerrechtlicher Sicht Verantwortungslücken auf. Wer trägt die Verantwortung, wenn Zivilisten durch künstliche Intelligenz Schaden zugefügt wird? Wenn wir diese Aufgabe richtig angehen, können unzählige Menschenleben davon profitieren. Im Krieg würden wir mit Maschinen bezahlen, nicht mit Menschenleben. Aber machen autonome Waffen den Krieg wirklich humaner oder senken Sie die Hemmschwelle zum Töten? Nicht selten haben Bemühungen, einen Krieg humaner zu machen, den gegenteiligen Effekt. […]
Die Entwicklung und Nutzung von künstlicher Intelligenz hat in den letzten Jahren erhebliche Fortschritte gemacht. Neue Algorithmen und Techniken ermöglichen es den Systemen, immer komplexere Aufgaben zu bewältigen und menschenähnliche Entscheidungen zu treffen. Doch der Knackpunkt der KI bleibt, ob diese Systeme zuverlässig sind und mit der Komplexität der echten Welt zurechtkommen. […] Es ist daher wichtig, Sicherheitsmaßnahmen zu implementieren und die Technologie kontinuierlich weiterzuentwickeln. Dabei liegt es in unserer Verantwortung, wie viel Macht und Entscheidungsfreiheit wir künstlicher Intelligenz zumuten wollen.

Quelle: Sophie-Claire Wieneke: Killer-Roboter? Die Bedeutung von Künstlicher Intelligenz im militärischen Einsatz. In: National Geographic 31.1.2024. https://www.nationalgeographic.de/wissenschaft/2024/01/killer-roboter-die-bedeutung-von-kuenstlicher-intelligenz-im-militaerischen-einsatz (Zugriff: 02.07.2024) (verändert)

1. Arbeiten Sie die zentralen Aspekte zur Nutzung von KI in der Kriegsführung und die damit verbundenen Herausforderungen (M 4) heraus und strukturieren Sie diese in einer Mindmap.

2. Entwickeln Sie auf Grundlage Ihrer Mindmap kontroverse Thesen oder Fragestellungen, die in einer Podiumsdiskussion zum Thema „Künstliche Intelligenz in der Kriegsführung“ diskutiert werden müssten.

Bei allen Vorteilen, die von Befür-worter*innen vollautonomer Waffensysteme ins Feld geführt werden […], stellen sich grundsätzliche Fragen, die im Ergebnis zu einem deutlichen Übergewicht der ablehnenden Argumente führen. […] Erstens: Menschenwürde. Jedem einzelnen Menschen kommt nach christlichem Verständnis eine unverlierbare Würde zu, die zu achten oberste Maxime des Handelns ist. […] Hinsichtlich der Frage der autonomen Waffensysteme sind zwei Aspekte zu betrachten: Erstens widerspricht es der Menschenwürde, wenn der Mensch Entscheidungen über Leben und Tod im militärischen Konflikt einer Maschine und Algorithmen überlässt. Zweitens degradiert es die Opfer […] zu Objekten und entmenschlicht so jeden einzelnen Menschen. Gesellschaften, die eine solche Praxis beim Töten im Krieg erlauben, geben grundlegende Werte und humanitäre Prinzipien auf.

Zweitens: Verantwortung. Zur Menschenwürde gehört es, Verantwortung zu übernehmen. […] Hinsichtlich der autonomen Waffensysteme ist die Frage entscheidend, inwieweit der Mensch auch in völkerrechtlich geregelten Konflikten verantwortlich bleibt. Vollautonome Waffensysteme sind gerade dadurch gekennzeichnet, dass der Mensch nicht mehr eingreifen kann, sobald die Waffe gestartet wurde. Es entsteht eine Verantwortungslücke, die auch von hochentwickelten Systemen nicht gefüllt werden kann. […] Verantwortung zu übernehmen beinhaltet […] die Bereitschaft zur Schuldübernahme im Falle einer Entscheidung, deren Opfer und Folgen nicht vorher abzuschätzen waren. Eine Maschine aber kann eben nicht zur Verantwortung gezogen werden […]. Aus einer Sicherheitsperspektive besteht die Gefahr, dass solche Systeme die Konfliktschwelle senken, also insgesamt destabilisierend auf die internationale Sicherheit wirken. […] Vor dem Hintergrund des Leitbildes des gerechten Friedens und einer ethischen Maxime der Gewaltfreiheit [und] der Bekämpfung von Ursachen von Konflikten (Armut, Hunger, Ungerechtigkeit) […] stehen die enormen finanziellen Aufwendungen für neue Waffensysteme im krassen Widerspruch zu dem, was eigentlich nötig ist, um die Probleme dieser Erde und der gesamten Menschheit zu lösen. […]

Quelle: Renke Brahms: Ein friedensethischer Blick auf autonome Waffensysteme. In: Wissenschaft & Frieden, Dossier 90, 03/2020. https://wissenschaft-und-frieden.de/dossier/autonome-waffensysteme-auf-dem-vormarsch/ (Zugriff: 02.07.2024) (verändert)

Anhand grundlegender und universal gültiger Prinzipien des humanitären Völkerrechts lässt sich feststellen, ob die Entwicklung und der Einsatz von autonomen Waffensystemen mit geltendem Recht vereinbar und somit rechtmäßig sind. […] Zum einen ist der Einsatz von Waffensystemen verboten, die überflüssige Verletzungen oder unnötige Leiden verursachen können oder die lang anhaltende und schwere Umweltschäden verursachen. Zum anderen sind Konfliktparteien verpflichtet, immer zwischen der Zivilbevölkerung und zivilen Objekten einerseits und Kombattant*innen und militärischen Objekten andererseits zu unterscheiden. Angriffe sind lediglich zulässig, wenn sie auf Kombattant*innen und militärische Objekte gerichtet sind. Außerdem müssen die Parteien in einem Konflikt Zivilist*innen und zivile Objekte so umfassend wie möglich schützen; geeignete Vorsichtsmaßnahmen hierfür sind zu treffen und sogenannte Kollateralschäden zu verhindern. Außerdem müssen für jedes Handeln im Rahmen eines bewaffneten Konflikts die Verhältnismäßigkeit der eingesetzten Mittel und Methoden der Kriegsführung gegenüber der militärischen Notwendigkeit bewertet werden. […]

Mit der Entwicklung und dem Einsatz autonomer Waffensysteme sollen diese komplexen Entscheidungen auf Maschinen beziehungsweise Algorithmen übertragen werden. Allerdings bestehen große Zweifel, ob diese tatsächlich dazu in der Lage sein werden, akkurate und rechtmäßige Entscheidungen im Kriegsgeschehen zu treffen. […] Autonome Waffensysteme, die selbständig und ohne menschliche Kontrolle Ziele identifizieren und angreifen können, sind nicht mit den Grundsätzen der Menschlichkeit […] vereinbar. Menschlichkeit erfordert menschenwürdige Behandlung anderer, auch im Falle eines bewaffneten Konflikts. Dies umfasst Respekt gegenüber der Würde des Menschen und ein Verständnis über den Wert eines Menschenlebens – Fähigkeiten, über die ein Algorithmus nicht verfügen kann. […]

Quelle: Johanna Trittenbach: Humanitäres Völkerrecht und autonome Waffensysteme. In: Wissenschaft & Frieden, Dossier 90, 03/2020. https://wissenschaft-und-frieden.de/dossier/autonome-waffensysteme-auf-dem-vormarsch/ (Zugriff: 02.07.2024) (verändert)

Wesentliche Kriterien für das Gefechtsfeld der Zukunft […] sind die Vernetzung und Erhöhung der Operationsgeschwindigkeit […]. Das kann nur auf der Grundlage einer umfassenden Digitalisierung der Streitkräfte gelingen. Hierbei bietet künstliche Intelligenz (KI) vielfältige Möglichkeiten, diesem Ziel zu dienen. Es ist also nicht die Frage, ob KI eine Rolle spielen muss, sondern nur, wie weit deren Anwendung reichen soll. Bedauerlicherweise wird die Anwendung von Instrumenten, die sich auf KI stützen, bei Verteidigungsaufgaben häufig auf den Einsatz autonomer Waffensysteme in Form von „Killer-Robotern“ reduziert. Damit besteht das Risiko einer Verteufelung von KI, der es mit differenzierter Betrachtung und zielgerichteten Erklärungen und Erläuterungen entgegenzuwirken gilt. […]

Streitkräfte sind also gut beraten, zu analysieren, welche Möglichkeiten bestehen, an welchen Themen potenzielle Gegner arbeiten beziehungsweise in welchen Bereichen und wie Streitkräfte künftig KI anwenden können. Ein Gegner mit abweichenden gesellschaftlichen Werten oder anderen politischen Systemen unterliegt nicht den Restriktionen, die für Streitkräfte in einer Demokratie rahmengebend sind. Er kann dadurch Vorteile generieren. Hier sind andere Wege zu identifizieren, die Waffengleichheit wiederherzustellen […]. KI kann prinzipiell in allen Bereichen Potenziale erschließen, also in den Domänen Führung, Aufklärung, Wirkung und Unterstützung (FAWU) beziehungsweise bei deren Wechselwirkung. […] Wir müssen davon ausgehen, dass potenzielle Gegner über derartige Instrumente verfügen und auch darauf zurückgreifen werden. Wesentlich ist auch die Antwort auf die Frage, wie groß deren Bereitschaft ist, Grenzen zu überschreiten, zum Beispiel mit dem Einsatz autonomer Waffensysteme. […]

Quelle: Wolfgang Gäbelein: Die Bundeswehr und das Gefechtsfeld der Zukunft. In: Norbert Lammert/Wolfgang Koch (Hrsg.): Bundeswehr der Zukunft – Verantwortung und Künstliche Intelligenz. Berlin: Konrad Adenauer Stiftung 2023, S. 121–126. https://www.kas.de/de/einzeltitel/-/content/bundeswehr-der-zukunft-5 (Zugriff: 02.07.2024) (verändert)

KI [kommt] derzeit lediglich in teilautomatisierten Anwendungen in Waffensystemen zum Zug. Die Kontrolle und letztliche Entscheidungsgewalt liegen bei der Soldatin oder dem Soldaten. Unbestritten ist jedoch, dass es gerade mit Blick auf Weiterentwicklungen ethische und rechtliche Regeln braucht, damit aus technologischer Innovation menschendienlicher Fortschritt wird. Denn Technologie ist nicht per se moralisch gut oder schlecht. Ethische Grundüberzeugungen müssen immer Vorrang vor reinen Nützlichkeitserwägungen haben – auch im Krieg. […]

Eine generelle Ablehnung von KI im Militärbereich könnte dramatische Konsequenzen für Deutschlands Sicherheit haben. Im Rahmen von internationalen Rüstungskontrollregimen sollte sich Deutschland natürlich dafür einsetzen, Waffensysteme zu regulieren. Aber um für solche Verhandlungen überhaupt eine ernsthafte Rolle zu spielen, muss Deutschland politisch wie technologisch beteiligt sein. […] Wer den Einsatz von KI in Waffensystemen kategorisch ablehnt, verschließt die Augen vor künftigen Herausforderungen. […] Da die Bundeswehr und ihr Einsatz in Deutschland letztlich von Entscheidungen des Parlaments abhängt, kommt dem Bundestag die Verantwortung zu, die Streitkräfte mit dem entsprechenden Material und dem notwendigen Personal in Umfang und Qualität auszustatten, das sie zur Erfüllung ihrer verfassungsmäßigen Aufgaben zur Landesverteidigung wie ihrer Bündnisverpflichtungen benötigt. Zu dieser Verantwortung gehört aber auch, technologische Innovationen im Militärischen zu fördern und nach ethischen Standards zu regulieren. […]

Quelle: Wolfgang Lammert: Militärischer Auftrag zwischen technischen Optionen und ethischen Orientierungen. In: Norbert Lammert/Wolfgang Koch (Hrsg.): Bundeswehr der Zukunft – Verantwortung und Künstliche Intelligenz. Berlin: Konrad Adenauer Stiftung 2023, S. 18–20. https://www.kas.de/de/einzeltitel/-/content/bundeswehr-der-zukunft-5(Zugriff: 02.07.2024) (verändert)

1. Analysieren Sie in arbeitsteiliger Gruppenarbeit die vier Positionen (M 5–M 8) zum Einsatz von künstlicher Intelligenz und autonomen Waffensystemen.

2. Erarbeiten Sie auf Grundlage ihrer Analyse und mithilfe des Planungsbogens (siehe Zusatzmaterial zu Copy 3/4) eine Rolle (Name, Beruf, Haltung/Position zur Problemfrage etc.), die Sie in einer Podiumsdiskussion vertreten können. Führen Sie die Diskussion durch.

3. Wiederholen Sie nach der Podiumsdiskussion die Positionslinie (Copy 1) und kommen Sie zu einem abschließenden Urteil, ob künstliche Intelligenz in der Kriegsführung verboten werden sollte.

1. Tuka, Emily, Veronika

2. Chahid, Jonas und Muhammad

3. Till, Mark, Justin, Milan

4. Paula, Olivia, Samy, Taha

5. Johaina, Maram, Polina, Beyza

6. Younes, Japhet