Moschus- und 100 KI-Experten verbieten Robokiller

Anonim

Mit einem offenen Brief an die Vereinten Nationen fordern Elon Musk (Tesla, SpaceX, Hyperloop …), Mustafa Suleyman (Deepmind Google) und 114 weitere Experten für künstliche Intelligenz (IA) und Robotik, die Entwicklung autonomer tödlicher Systeme, der Roboter, zu verhindern Killer. Die Bedeutung des Aufrufs, der offensichtlich mit gutem Grund (angesichts der Unterzeichner) gemacht wurde, ist, dass, wenn eine Maschine, die in der Lage ist, Entscheidungen in relativer Autonomie zu treffen, mit einem Maschinengewehr ausgestattet ist, die Gesetze der Robotik von Isaac Asimov, der als utopisch und Science-Fiction, wie sie ein Leuchtturm in der Diskussion (fortlaufend) über die Ethik autonomer Systeme sind (siehe Die Moral des Autos ohne Fahrer).

Image Die drei Gesetze der Robotik, die Isaac Asimov für seine Science-Fiction-Universen definiert hat, die von Robotern mit positivem Gehirn bevölkert werden:
1. Ein Roboter kann einem Menschen keinen Schaden zufügen oder einen Menschen Schaden zufügen, wenn er nicht eingreift.
2. Ein Roboter muss den Anweisungen der Menschen Folge leisten, sofern diese nicht gegen das Erste Gesetz verstoßen.
3. Ein Roboter muss seine Existenz schützen, sofern diese Selbstverteidigung nicht mit dem ersten oder dem zweiten Gesetz in Konflikt steht. |

In wessen Befehl? In diesem Fall geht es jedoch nicht um selbstfahrende Autos. Der Brief, der auf der IJCAI-Weltkonferenz 2017 zum Thema KI veröffentlicht wurde, warnt vor einer nahen Zukunft, in der unabhängige Maschinen ihre Ziele wählen können: Kämpfer, "Zivilisten" und alle, die ein Ziel sein können.

"Sobald sich bewaffnete Konflikte entwickelt haben, werden sie in größerem Ausmaß als je zuvor und schneller ausgetragen, als die Menschen verstehen können", heißt es in dem Brief. "Sie können Terrorwaffen sein, Waffen, die Despoten und Terroristen gegen unschuldige Bevölkerungsgruppen einsetzen, Waffen, die neu programmiert werden können, um auf die gewünschte Weise zu handeln."

Ist es zu spät Es ist nicht das erste Mal, dass Moschus und Gleichgesinnte zusammenkommen, um auf die Bedrohung durch autonome Waffen aufmerksam zu machen. Der Gründer von SpaceX und Tesla leitet auch OpenAI, eine gemeinnützige Organisation, die sich der ethischen Erforschung von KI widmet. Aber trotz der genannten Bedenken gibt es immer noch keine wirksamen Verbote (dh "unterzeichnete" Konventionen) gegen intelligente Waffen.

Der automatische Turm Samsung SGR-A1 Der automatische Turm Samsung SGR-A1. |

Einige glauben sogar, dass die Art der Regulierung derzeit unpraktisch ist, insbesondere angesichts des raschen Tempos, in dem sich die KI entwickelt. "Wir haben nicht viel Zeit zum Handeln: Sobald diese Büchse der Pandora geöffnet ist, wird es schwierig sein, sie zu schließen", heißt es in der Petition.

Vereint gegen die Roboterdrohung. Die "dritte Kriegsrevolution", auf die sich die Unterzeichner beziehen, bezeichnet Killerroboter als Nachfolger von Schießpulver und Atomwaffen: Innovationen, die die Welt nicht gerade verbessert haben. Es ist das erste Mal, dass Vertreter von KI- und Robotikunternehmen aus 26 Ländern offen für das Thema eintreten und sich mit unabhängigen Forschern wie Stephen Hawking, Noam Chomsky und Steve Wozniak (Mitbegründer von Apple) zusammenschließen.

Modell der Taranis-Drohne des BAE-Systems Ein Modell der Taranis-Drohne von BAE System. |

Echte Alpträume. "Die Anzahl der Unternehmen und Personen, die diesen Brief unterzeichnet haben, bestätigt unsere Warnung: Dies ist kein hypothetisches Szenario, sondern ein echtes und dringendes Problem, das sofortiges Handeln erfordert", sagt Ryan Gariepy, Gründer von Clearpath Robotics: "Nein Wir müssen die Tatsache aus den Augen verlieren, dass bewaffnete autonome Systeme im Gegensatz zu anderen potenziellen KI-Manifestationen, die noch im Bereich der Science-Fiction verbleiben, derzeit ganz oben auf der Liste der Investitionen für die Entwicklung neuer Technologien stehen. "

Während der letzte Albtraum autonomer bewaffneter Maschinen eine Zukunft ist, in der Roboter mit dem Erscheinungsbild von Terminator leben, sind Tötungsmaschinen mit KI bereits im Umlauf.

Sea Hunter, das ferngesteuerte Tauchboot der US DARPA Sea Hunter, das ferngesteuerte Tauchschiff (DARPA). |

Die Autonomie (mit unterschiedlichen Freiheitsgraden) wird zunehmend für Waffen wie den automatischen Turm SGR-A1 (Samsung), die Taranis-Drohne (BAE Systems) oder das U-Boot Sea Hunter (DARPA) genutzt. Mit anderen Worten, die Saat des morgigen Robokillers ist bereits an Land, auf See und in der Luft, während die Konventionen zur Regelung des Einsatzes dieser tödlichen Maschinen (und ihrer Konstruktion) noch nicht geschrieben wurden.

"Fast jede Technologie kann für gute und schlechte Zwecke eingesetzt werden, und künstliche Intelligenz ist keine Ausnahme", kommentiert Toby Walsh, ein Forscher und einer der Organisatoren von IJCAI 2017 heute […], aber die gleiche Technologie kann in autonomen Waffen verwendet werden, um den Krieg zu industrialisieren. Wir müssen heute Entscheidungen treffen und entscheiden, welche dieser Zukünfte wir wollen. "