KI im Militär: Deutschland und 96 andere sind gegen autonome Kampfroboter

[HaWe]

welchen Teil hiervon hast du NICHT verstanden?

diese Diskussion ist hier völlig abwegig: niemand behauptet, dass alle Soldaten 100% perfekt entscheiden und handeln. Aber sie tragen persönliche Verantwortung und unterstehen einer Gerichtsbarkeit, und sie haben auch erwartungsgemäß ein Verständnis von Rechtschaffenheit, Verantwortung, Menschlichkeit, Moral, Ethik und Gewissen: und das sind Kategorien, die keine KI (Maschine) hat, darum geht es. Auf diesen kategorischen Unterschied hättest du auch kommen müssen.

Es geht auch nicht um Gehorsam vs. Befehlsgewalt, sondern um Entscheidungsbefugnis auf der Basis von Erkenntnis, und abgesehen von allem andern ist KI einfach viel zu blöde, als dass man ihr so eine Entscheidungsbefugnis überlassen darf.

[Holomino]

Ich wüßte von keiner Zeit als der jetzigen, daß Ethik und Moral je so allesentscheidend gewesen wären wie heute. Wie wäre es stattdessen z.B. mit Ehrlichkeit?

Ehrlichkeit? Welche Hemmschwellen können einen Aggressor dann noch daran hindern, überall und zu jeder Zeit vollautomatisierte Kriege ohne Beteiligung und ohne Rückhalt in der eigenen Bevölkerung zu führen? Welchen Grund gibt es, diese Maschinen mangels Verteidigungsfall im Keller veralten zu lassen, statt sie zur Destabilisierung, zur asymmetrischer Kriegsführung (Terrorismus) oder zum Genozid zu nutzen oder sie unkontrolliert an Drittstaaten zu verhökern?

In Deinen obigen Anmerkungen zu Jugoslawien und 3. Reich betrachtest Du nur die eine Seite der Medaille. Wie viel schlimmer wäre die Sache ausgegangen, wenn jeweils die Gegenpartei den Irrsinn 100% kompromisslos anhand solcher Mittel durchgezogen hätte?

Die Tatsache bleibt: Stecker rein, Programm drauf und schon schießt die Maschine auch auf Kinder!
Das Perverse daran: Du hast nicht einmal mehr die Hemmschwelle, mit einem Kriegstrauma nach Hause zu kommen. Wenn Du kotzen musst, schaltest Du einfach den Monitor ab.

Letztendlich: Amerika, China, Russland! Hat eines dieser ächtungsunwilligen Länder eine potentielle Bedrohungslage? Sind das geplante Defensivwaffen? Haben nicht ausgerechnet die drei vielleicht noch Expansionspläne?
(GB verstehe ich. Die sind ja jetzt nach der fehlgeschlagenen EU-Assimilierung von "Feinden" umzingelt!)

[Gerdchen]

welchen Teil hiervon hast du NICHT verstanden?

Als Allwissender und Allesversteher hast Du per Definition eben recht.
Ich glaube nicht, dass Schlachtfelder ohne und mit KI sich großartig unterscheiden. Wen interessieren in einem Gemetzel irgendwelche Entscheidungsbefugnisse?

[HaWe]

Als Allwissender und Allesversteher hast Du per Definition eben recht.
Ich glaube nicht, dass Schlachtfelder ohne und mit KI sich großartig unterscheiden. Wen interessieren in einem Gemetzel irgendwelche Entscheidungsbefugnisse?

ich geb' dir noch ne Chance. Lies es noch mal.

diese Diskussion ist hier völlig abwegig: niemand behauptet, dass alle Soldaten 100% perfekt entscheiden und handeln. Aber sie tragen persönliche Verantwortung und unterstehen einer Gerichtsbarkeit, und sie haben auch erwartungsgemäß ein Verständnis von Rechtschaffenheit, Verantwortung, Menschlichkeit, Moral, Ethik und Gewissen: und das sind Kategorien, die keine KI (Maschine) hat, darum geht es. Auf diesen kategorischen Unterschied hättest du auch kommen müssen.

Es geht auch nicht um Gehorsam vs. Befehlsgewalt, sondern um Entscheidungsbefugnis auf der Basis von Erkenntnis, und abgesehen von allem andern ist KI einfach viel zu blöde, als dass man ihr so eine Entscheidungsbefugnis überlassen darf.

PS,
das eben geschriebene gilt für den heutigen Stand der KI-Forschung.
Aber selbst wenn es einmal eine KI gibt, die den Turing-Test besteht, dürfen wir Entscheidungen über Töten von Menschen (oder sog. "Kollateralschäden" bei Angriffen auf Objekte) keinen autonomen Maschinen überlassen.

[Gerdchen]

ich geb' dir noch ne Chance...

Da bin ich aber froh!

PS,
das eben geschriebene gilt für den heutigen Stand der KI-Forschung.
Aber selbst wenn es einmal eine KI gibt, die den Turing-Test besteht, dürfen wir Entscheidungen über Töten von Menschen (oder sog. "Kollateralschäden" bei Angriffen auf Objekte) keinen autonomen Maschinen überlassen.

Ich befürchte nur, dass Dein Apell ungehört verhallt.
Ähnliches passierte ja beim mehrfachen (2 mal) Einsatz der Atombombe. Es gab jede Menge Bedenken im Vorfeld und obwohl man kaum Ahnung von den Auswirkungen hatte, siegte eben nicht die Vernunft. Gleiches wird bei der KI passieren, ob fortgeschritten oder nicht. Die KI fällt ja nicht vom Himmel, die haben Menschen verzapft. Keiner weiß, ob sich eine fortgeschrittene KI der menschlichen Kontrolle zumindest teilweise entziehen kann. Die menschliche Intelligenz ist wahrscheinlich so gestrickt, dass man sich erst hinterher bewusst wird, was passiert ist.

[Holomino]

Fachbegriff "Tötungshemmung". Das beschreibt ganz gut, wohin die Reise geht.
Nachtrag: Auch noch gefunden. Die BW spricht von 2,9% PTBS nach Auslandseinsätzen.

[HaWe]

Da bin ich aber froh!





Ich befürchte nur, dass Dein Apell ungehört verhallt.
Ähnliches passierte ja beim mehrfachen (2 mal) Einsatz der Atombombe. Es gab jede Menge Bedenken im Vorfeld und obwohl man kaum Ahnung von den Auswirkungen hatte, siegte eben nicht die Vernunft. Gleiches wird bei der KI passieren, ob fortgeschritten oder nicht. Die KI fällt ja nicht vom Himmel, die haben Menschen verzapft. Keiner weiß, ob sich eine fortgeschrittene KI der menschlichen Kontrolle zumindest teilweise entziehen kann. Die menschliche Intelligenz ist wahrscheinlich so gestrickt, dass man sich erst hinterher bewusst wird, was passiert ist.

1. Das Thema Nuklearwaffen ist ein völlig anderes: Hier war das Konzept der atomaren Abschreckung IMO erfolgreich, auch wenn die beiden Bomben auf Japan militärisch nicht notwendig gewesen wären (auch dies wurde forciert durch gewissenlose Militärs und Beamte im Manhatten Projekt). Seit aber zumindest die Supermächte sich damit nun in Schach halten, gab es ja 75 Jahre lange wegen des drohenden Overkills keinen Atomkrieg.
2. Es ist nicht "mein" Apell sondern der von Human Rights Watch UND von 97 (!) Staaten inkl Deutschland und Frankreich im Rahmen der Convention on Conventional Weapons (CCW).
3. Wenn man ohne Protest weltweit alles schweigend abnicken würde, was an Rüstungsirrsinn, Völkermord, Kriegsverbrechen, Menschenrechtsverletzungen und Umweltzerstörung läuft, dann Gute Nacht!

[Gerdchen]

1. Das Thema Nuklearwaffen ist ein völlig anderes: Hier war das Konzept der atomaren Abschreckung IMO erfolgreich, auch wenn die beiden Bomben auf Japan militärisch nicht notwendig gewesen wären (auch dies wurde forciert durch gewissenlose Militärs und Beamte im Manhatten Projekt). Seit aber zumindest die Supermächte sich damit nun in Schach halten, gab es ja 75 Jahre lange wegen des drohenden Overkills keinen Atomkrieg.

Naja, gut. Du scheinst es aber auch nicht so richtig zu verstehen. Das Thema Nuklearwaffen ist nichts anderes. Die atomare Abschreckung kam erst nachdem das Kind in den Brunnen gefallen war. Es geht eigentlich darum, dass man neue Technologien für kriegerische Zwecke einsetzt, von deren Auswirkungen man noch nicht die blasseste Ahnung hat. "..gewissenlose Militärs und Beamte.." Warum glaubst Du, dass es bei der KI anders laufen sollte?

[HaWe]

Die nukleare Abschreckung kam, nachdem
- im 2.WK die Deutschen an Nuklearwaffen geforscht haben,
- dann als Reaktion auch die Amis, unterstützt durch deutsche Emigranten
- dann auch die Russen, ebenfalls unterstützt durch deutsche Emigranten
- die Amis haben es dann geknackt (hing mit dem Element Bor zusammen)
- und damit kein Land alleine diese Waffe besitzen soll, wurde der Trick von einem deutschen Spion im Manhatten-Projekt verraten an die Russen, aus politisch-ideologischen Gründen: das war im Prinzip der Beginn der Idee der Abschreckung.
- Später wurde es dann auch an die Chinesen, Inder und Israelis verraten, aus ähnlichen Gründen, von wem es die Briten und die Franzosen hatten weiß ich grade nicht mehr, ist aber auch egal.
- Alle aber haben die Waffen (bislang) nicht eingesetzt (außer die Amis gegen Japan), weder taktisch noch erst recht strategisch, wegen der Gefahr eines vernichtend tödlichen Gegenschlags, das ganze Länder samt ihrer gesamten Bevölkerung und (wegen des folgenden nuklearen Winters) die komplette Menschheit vernichten können.

Diese abschreckende Wirkung aber ist von Robotersoldaten-KI nicht zu erwarten, dazu ist ihr Wirkungsbereich viel zu klein, also ist Einsatz nicht von einem totalen Gegenschlag bedroht, Rest s.o.

Wenn du die genauen Positionen und die Argumentationen erfahren willst, lies die Statements von HRW und CCW, da ist alles genau dargelegt.