Ein Roboter, der vom Robotiker Alexander Reben von der University of Berkeley, Kalifornien, gebaut wurde, kann mithilfe der KI entscheiden, ob er Schmerzen zufügt oder nicht.
Der Roboter möchte eine Debatte darüber auslösen, ob ein KI-System außer Kontrolle geraten kann, was an den Terminator erinnert. Das Roboterdesign ist unglaublich einfach und dient nur einem Zweck: zu entscheiden, ob Schmerzen verursacht werden sollen oder nicht. Der Roboterwurde von Alexander Reben von der University of Berkeley entwickelt und in einem wissenschaftlichen veröffentlicht Tagebuch mit dem Ziel, eine Debatte darüber auszulösen, ob künstliche intelligente Roboter bei Gelegenheit außer Kontrolle geraten können oder nicht.
"Die eigentliche Sorge um KI ist, dass sie außer Kontrolle gerät"
sagte er .
"[Die Technologiegiganten] sagen, es ist ein Ausweg, aber denken wir jetzt darüber nach, bevor es zu spät ist. Ich beweise, dass [schädliche Roboter] jetzt existieren können. Wir müssen uns unbedingt damit auseinandersetzen."
Reben untersucht die sehr reale Möglichkeit, dass ein Roboter, der mit einem Algorithmus programmiert ist, der aus Erfahrung und menschlicher Interaktion lernt, die negativen Eigenschaften einiger Menschen aufgreift und einen möglichen Sturz von KI-Systemen darstellt, der gefährlich werden könnte.
Wenn ein Finger in der Nähe des Roboters platziert wird, kann er in der Praxis einen Finger stechen und Blut abnehmen. Reben erklärt, dass er wirklich keine Ahnung hat, wann der Roboter zuschlagen wird.
"Der Roboter trifft eine Entscheidung, die ich als Schöpfer nicht vorhersagen kann"
sagte er ,
"Ich weiß nicht, wer es verletzen wird oder nicht. Es ist faszinierend, es verursacht Schmerzen, die nicht für einen nützlichen Zweck sind - wir bewegen uns in eine ethische Frage, Roboter, die speziell dafür gebaut sind, Dinge zu tun, die ethisch zweifelhaft sind."
Die Maschine kostet ungefähr 200 US-Dollar und wird nicht für den Einzelhandel erhältlich sein. Sein Hauptaugenmerk liegt auf der Erforschung der Philosophie von drei Robotergesetzen, die Isaac Asimov 1942 vorgeschlagen hat. Das erste, bei dem es sich um einen Roboter handelt, kann einen Menschen nicht verletzen. Nach Rebens Forschungen gelangte er zu dem Schluss, dass dies der Fall istEin KI-Kill-Schalter, der dem ähnelt, der derzeit von Ingenieuren der Abteilung für künstliche Intelligenz von Google, DeepMind, und der Universität Oxford entwickelt wird, könnte in naher Zukunft unglaublich wichtig werden.
Rebens Roboter sticht einen Finger [Bildquelle : Alexander Reben ]
Das Hauptanliegen besteht darin, sicherzustellen, dass der Algorithmus eines Roboters so konzipiert ist, dass er den Kill-Schalter nicht außer Kraft setzt, um zu verhindern, dass er ausgeschaltet wird - ein unglaublich gefährliches Szenario. Obwohl aktuelle Roboter für einen praktischen Zweck ausgelegt sind, wie sieUm mehr Intelligenz und menschlichere Lernalgorithmen zu erhalten, muss unbedingt sichergestellt werden, dass erhebliche Sicherheitsmaßnahmen vorhanden sind, um zu verhindern, dass sich ein Roboter in einen Terminator verwandelt, mit dem Finger sticht oder noch schlimmer.
SIEHE AUCH : Künstliche Intelligenz sollte durch Menschenrechte geschützt werden
Geschrieben von Maverick Baker