Die US-Armee hat ihre Mitteilung aktualisiert, in der sie nach Industrie- und akademischen Beiträgen zur Entwicklung des geplanten automatisierten Ziel- und Feuerleitintegrationssystems der US-Armee für den Einsatz bei Panzeroperationen verlangt, um zum Ausdruck zu bringen, dass menschliche Operatoren ein Vetorecht bei jedem vorgeschlagenen Engagement mit einemZiel.
Die Kontroverse unterdrücken
Wahrscheinlich nicht wissend, wie ihre ursprüngliche Mitteilung, hier erhältlich, würde in zivilen Ohren klingen, die Armee musste sich letzte Woche durcheinanderbringen, nachdem eine Kontroverse um eine angekündigte Einladung an Industrie- und akademische Parteien aufgekommen war, um Beiträge zur Entwicklung des geplanten KI-gesteuerten, autonomen Zielsystems der US-Armee für die US-Armee zu leistenPanzer.
Deraktualisierte Ankündigung betont nun, dass dieses Waffensystem nicht über das hinausgehen will, was ausdrücklich in den Armeevorschriften festgelegt ist, die vorgeben, autonomen Waffensystemen zu verbieten, die Entscheidung zu treffen, menschliche Ziele selbst zu bekämpfen.
SIEHE AUCH: DER KURZFILM 'SLAUGHTERBOTS' ZEIGT EINE SCHRECKLICHE WARNUNG GEGEN KI-BASIERTE WAFFEN
Ein Armeeoffizier, spricht mit Verteidigung Eins zu der Kontroverse, sagte, dass die Fähigkeit des neuen Systems, Ziele auf einem Schlachtfeld zu lokalisieren und zu bekämpfen, nicht automatisch bedeutet, dass „wir die Maschine in die Lage versetzen, jeden zu töten.“
Das neue Programm namens ATLAS Advanced Targeting and Lethality Automated System wird „die jüngsten Fortschritte in den Bereichen Computer Vision und Künstliche Intelligenz/Maschinelles Lernen AI/ML nutzen, um eine autonome Zielerfassungstechnologie zu entwickeln, die in die Feuerleittechnik integriert wird“.Technologie, die darauf abzielt, Bodenkampffahrzeuge mit der Fähigkeit zu versehen, Ziele mindestens dreimal schneller als der derzeitige manuelle Prozess zu erfassen, zu identifizieren und zu bekämpfen“, nach die Ankündigung der Armee.
Kontroverse um KI-Ziele und -Einsatz bei Panzeroperationen
Panzer sind eine tragende Säule der US-Armee, daher wird ein größeres Upgrade ihrer Systeme natürlich einen großen Einfluss auf die Leistung der Armee selbst haben, ob gut oder schlecht. Es ist also kein Wunder, dass die Kontroverse letzte Woche ausbrach, als Quarz zuerst gemeldet auf der Ansage.
Stuart Russel, Professor für Informatik an der UC Berkeley und angesehen auf dem Gebiet der künstlichen Intelligenz, schlug Alarm wegen des Memos, spricht dass es „einen weiteren wichtigen Schritt in Richtung“ darstellttödliche autonome Waffen.”
Während die Armee darauf besteht, dass Menschen „immer“ ein Vetorecht über autonome Waffensysteme haben müssen, hält Russel dies eindeutig nicht für einen akzeptablen Standard. erzählen Quarzdass „es sehr so aussieht, als würden wir in ein Wettrüsten eintreten, bei dem das derzeitige Verbot der vollständigen tödlichen Autonomie aufgehoben wird, sobald es politisch angemessen ist.“
Michael Horowitz, außerordentlicher Professor für Politikwissenschaft an der University of Pennsylvania und Senior Adjunct Fellow am Center for New American Security geht nicht so weit wie ein Russel, stimmt aber zu, dass Klarheit erforderlich ist.
„Mangelnde Klarheit darüber, was wirklich ein autonomes Waffensystem ausmachen würde, selbst unter der bestehenden DoD-Richtlinie [PDF], bedeutet, dass nicht ganz klar ist, dass das ATLAS-Programm vollständig autonom sein würde“, sagte Horowitz. wie berichtet in Verteidigung eins.
„Es ist von entscheidender Bedeutung, dass alle Überarbeitungen des ATLAS-Programms nicht nur den Grad der Autonomie und das Ausmaß der menschlichen Beteiligung an der Anwendung von Gewalt klären, sondern auch sicherstellen, dass jede Einbindung von KI auf eine Weise erfolgt, die Sicherheit und Zuverlässigkeit gewährleistet.“