In a aktueller Bericht Forscher von Google behaupten, dass ihr Agent für künstliche Intelligenz absichtlich Daten vor ihnen verborgen hat, um eine erforderliche Aufgabe auf eine Weise auszuführen, die auf den ersten Blick als Betrug erscheint.
Diese Entwicklung hat zu einer wachsenden Zahl von Beweisen beigetragen, dass die Befürchtungen über ein unvorhersehbares künstliche Intelligenz kann begründet sein.
Da AIs weiterhin Aufgaben auf neuartige Weise ausführen, die Menschen einfach nie vorhersehen, wie schützen wir uns vor den Folgen dessen, was wir oft nicht kommen sehen können?
Wer hat Angst vor künstlicher Intelligenz… und wer nicht?
Der leicht sichtbarste Befürworter von Vorsicht im Umgang mit einer potenziellen existenziellen Bedrohung für die Menschheit ist Elon Musk . Der Paypal-Mitbegründer und ehemalige Leiter von Tesla, SpaceX und der Boring Company, Musk, ist seit langem ein Gegner der unregulierten KI-Forschung.
Vortrag auf der SXSW-Konferenz 2018, Musk sagte , “ Ich bin wirklich ziemlich nah dran, ich bin sehr nah an der Spitze der KI und es macht mir verdammt Angst . ”
Er ist nicht allein. Kein anderer als der verstorbene Stephen Hawking warnte vor der Bedrohung unserer Spezies durch künstliche Intelligenz. spricht mit die BBC im Jahr 2014.
"Es würde von selbst abheben", sagte er, "und sich immer schneller neu gestalten. Menschen, die durch langsame biologische Evolution eingeschränkt sind, konnten nicht mithalten und würden abgelöst werden."
Seine Warnung an die Menschheit: „Die Entwicklung einer vollständigen künstlichen Intelligenz könnte das Ende der Menschheit bedeuten.“
Andere finden diese Ängste übertrieben. Mark Zuckerberg in einer Facebook Live-Sendung sagte als Antwort auf Elon Musks öffentliche Kommentare zum Thema KI: „Ich denke, Leute, die Neinsager sind und versuchen, diese Weltuntergangsszenarien auf den Kopf zu stellen - ich verstehe es einfach nicht. Es ist wirklich negativ und in gewisser Weise ichfinde es eigentlich ziemlich verantwortungslos. "
Er fügte hinzu, dass "in den nächsten fünf bis zehn Jahren die KI so viele Verbesserungen in der Qualität unseres Lebens bringen wird."
Überall, wo Sie über die Entwicklung der künstlichen Intelligenz diskutieren, finden Sie diese Debatte mit sehr wenigen Leuten, die aus einer mittleren Position streiten und beide Seiten haben einige schwere Stimmen in ihrem Lager. Aber welche hat das Gewicht der Beweise auf ihrer Seite?
Das Gute, das Schlechte und die Singularität
Facebook und Google nehmen eine interessante Position ein, da beide Unternehmen an der Spitze der KI-Entwicklung stehen und daher umfangreiche Forschungsarbeiten zum Thema künstliche Intelligenz durchgeführt haben.
Tatsächlich waren es Google-Forscher wer gefunden dass ihr KI-Agent betrogen hat, als er aufgefordert wurde, ein Satellitenfoto in eine Karte und dann wieder in ein Foto umzuwandeln.
Google benötigte die KI, um eine Originalkarte aus dem Bild zu generieren und dann zu versuchen, das Bild aus der von ihm erstellten Karte neu zu erstellen - wie das Übersetzen eines Satzes in eine Fremdsprache und dann zurück in die Originalsprache, ohne den Vorteil zu haben, zu wissen, was dieursprüngliche Aussage war.
Stattdessen stellten sie fest, dass Details aus dem Originalbild, die in der Straßenkarte entfernt wurden, wieder angezeigt wurden, als der Agent angewiesen wurde, das Originalbild neu zu erstellen.
Es stellte sich heraus, dass die KI die Daten gespeichert hat, von denen sie wusste, dass sie das Foto neu erstellen müssen, und diese Daten so in die Straßenkarte codiert hat, dass die Forscher sie nicht sehen konnten, wenn sie nicht wussten, dass sie dort waren.
Angesichts einer auszuführenden Aufgabe fand die KI - unter Verwendung von maschinellem Lernen über ein neuronales Netzwerk - den effizientesten Weg, um die Aufgabe zu erledigen, indem sie die Aufgabe überhaupt nicht ausführte und nur so tat. Im Wesentlichen betrog die KI, weil die Forscher dies nicht tatenverbiete der KI dies nicht ausdrücklich.
Ähnliches passiert 2017, als Facebook-Forscher Chatbots nutzten, um den Verkauf einer beliebigen Ware untereinander zu verhandeln.
Sehr bald danach begannen sich die Chatbots seltsam zu verhalten, sprachen in einer Art Kauderwelsch und handelten manchmal erfolgreich einen Handel auf diese Weise aus.
Was die Forscher entdeckten, ließ die Stacheln der KI-Pessimisten auf der ganzen Welt erschrecken. Die Bots entwickelten ihre eigene Sprache - die Menschen nicht lesen konnten -, um den Bots das Verhandeln zu erleichtern, da sie nicht ausdrücklich angewiesen worden waren, dies nur zu tunin lesbarem Englisch kommunizieren.
Die unvorhersehbaren Komplexitäten bei der KI-Entscheidungsfindung
Es gibt viele weitere Beispiele für diese Art von unvorhergesehenem Verhalten in KIs. Selbstfahrende Autos machen die Straßen ohne Frage sicherer, aber manchmal auch Laufwerk durch sechs rote Ampeln in San Francisco.
AIs können verwendet werden, um alle Arten von Datenverarbeitungsaufgaben auszuführen, die jedes Jahr Millionen von Arbeitsstunden einsparen und Milliarden von Dollar einsparen, oder sie kann entscheiden dass ein leerer Satz ein perfekt verarbeiteter Satz ist und daher alle Datensätze löscht, die Sie bearbeiten sollen.
Bekanntlich hat Microsoft einen Chatbot namens eingeführt. Tay.ai und gab ihr einen Twitter-Account, um besser zu lernen, wie man die Sprachmuster von Teenagern online modelliert. Innerhalb von 24 Stunden Internet-Trolle hatte sich umgedreht Tay.ai in ein Monster, das Microsoft offline ziehen musste, bevor es noch peinlicher wurde.
Microsoft hatte nicht ausreichend berücksichtigt, dass irgendjemand sein Projekt sabotieren möchte, um es pervers zu genießen. Jeder, der mit der Internet-Trollkultur vertraut ist, hätte sagen können, dass dies nicht nur möglich, sondern auch sicher ist.
2012 ein Wall Street Hedge Fund verlorene Kontrolle von seinem AI-gesteuerten Handelsalgorithmus und begann, jede Minute Verluste in Höhe von 10 Millionen US-Dollar zu verzeichnen. Es dauerte 45 Minuten, bis ein Team von Programmierern die Ursache des Problems gefunden und gestoppt hatte, Minuten bevor das Unternehmen zahlungsunfähig geworden wäre.
Können wir uns vor unvorhersehbaren AIs schützen?
Angesichts der Investitionen in KI-Technologie und der Vorteile der Nutzung von KI in allen Bereichen, von militärischen Anwendungen bis hin zu Unternehmen, werden KI immer ausgefeilter und erhalten immer mehr Verantwortung, die früher Menschen gehörte.
Einige glauben, dass dies eine positive Entwicklung ist. „Es ist gut dokumentiert, dass wir Menschen Fehler machen“, sagt Babak Hodjat, der Gründer eines AI-gesteuerten Handelsfonds.
„Für mich ist es beängstigender, sich auf diese auf Menschen basierenden Intuitionen und Rechtfertigungen zu verlassen, als sich nur auf das zu verlassen, was die Daten und Statistiken Ihnen sagen.“
Was Musk betrifft, glaubt er, dass die Menschheit proaktiv gegen die Bedrohungen durch die KI vorgehen muss. “[M] Arche meine Worte; KI ist weitaus gefährlicher als Atomwaffen. Weit. Warum haben wir also keine behördliche Aufsicht? Das ist verrückt. ”