Wissenschaftler der renommierten Max-Planck-Gesellschaft in Europa sagen, dass die Menschheit mit unserer derzeitigen Technologie keine Chance hat, eine superintelligente künstliche Intelligenz zu kontrollieren, die die Menschheit retten oder zerstören kann.
Das Forschungsinstitut Papier , veröffentlicht letzte Woche im Journal of Artificial Intelligence Research, konzentriert sich auf die Reaktionsfähigkeit der Menschheit gegenüber einer hypothetischen KI im Skynet-Stil, die beschließt, die Menschheit zu beenden.
VERBINDUNG: WIE MASCHINENLERNEN UND KI DAS ENGINEERING BEEINFLUSSEN
Minderung der Bedrohung durch schädliche KI
Wenn ein Superintelligent künstliche Intelligenz der Zukunft entschied als Beispiel, dass der effizienteste Weg, um menschliches Leiden zu beenden, darin besteht, einfach die Menschheit zu beenden. Was würden wir tun, um es zu stoppen?
Das ist die Frage, die sich die Mitarbeiter der Max-Planck-Gesellschaft in ihrer kürzlich veröffentlichten Studie gestellt haben. Die Antwort: Mit der heutigen Technologie müssten wir so ziemlich zusehen, wie wir ausgelöscht werden.
Aus diesem Grund schlagen die Forscher vor, einen sogenannten "Containment-Algorithmus" zu entwickeln, der das gefährliche Verhalten einer superintelligenten KI simuliert und verhindert, dass sie schädliche Auswirkungen hat.
'Klingt nach Science Fiction'
Die Forscher der Max-Planck-Gesellschaft warnen davor, dass KI, die in der Lage ist, wirkungsvolle Entscheidungen für die Menschheit zu treffen, gleich um die Ecke steht.
"Eine superintelligente Maschine, die die Welt kontrolliert, klingt nach Science-Fiction", Studienkoautor Manuel Cebrian, Leiter der Gruppe für digitale Mobilisierung am Zentrum für Menschen und Maschinen des Max-Planck-Instituts für menschliche Entwicklung. sagte in a Pressemitteilung .
"Es gibt jedoch bereits Maschinen, die bestimmte wichtige Aufgaben unabhängig voneinander ausführen, ohne dass Programmierer vollständig verstehen, wie sie sie gelernt haben. Es stellt sich daher die Frage, ob dies irgendwann unkontrollierbar und gefährlich für die Menschheit werden könnte", fuhr Cebrian fort.
Stoppt die Kampagne für Killerroboter
Natürlich ist all dies theoretisch, da wir mit solchen Fähigkeiten wahrscheinlich noch weit von künstlicher Intelligenz entfernt sind. Dennoch trägt das neue Papier zu einer wichtigen Debatte bei, die von den Stop Killer Robots angeführt wird. Kampagne unterstützt von Elon Musk und Noam Chomsky .
As Neuralink Mitbegründer Musk hat darauf hingewiesen, dass einige der weltbesten Köpfe, die heute daran arbeiten, die Bedrohung durch KI zu mindern, im Vergleich zu den superintelligenten Maschinen der Zukunft die relative Intelligenz eines Schimpansen haben werden.