Kann eine künstliche Intelligenz ethisch sein? Forscher fragten KI, und sie sieht beide Seiten

Kein Tag vergeht ohne einen faszinierenden Ausschnitt über die ethischen Herausforderungen, die durch „Black Box“-Systeme der künstlichen Intelligenz entstehen. Diese verwenden maschinelles Lernen, um Muster in Daten zu erkennen und Entscheidungen zu treffen – oft ohne dass ein Mensch ihnen eine moralische Grundlage dafür liefert, wie es gehtTu es.

Klassiker des Genres sind die Kreditkarten beschuldigt der Vergabe von größeren Krediten an Männer als an Frauen, einfach darauf basierend, welches Geschlecht in der Vergangenheit die besten Kreditkonditionen hatte. Oder die Rekrutierungs-KIs das genaueste Werkzeug für die Kandidatenauswahl war, Lebensläufe zu finden, die den Ausdruck „Feldhockey“ oder den Vornamen „Jared“ enthielten.

Im Ernst, der ehemalige Google-CEO Eric Schmidt hat sich kürzlich mit Henry Kissinger zusammengeschlossenzu veröffentlichen"The Age of AI: And Our Human Future", ein Buch, das vor den Gefahren von maschinell lernenden KI-Systemen warnt, die so schnell sie könntenreagieren auf Hyperschallraketen durch das Abfeuern von Atomwaffen, bevor ein Mensch in den Entscheidungsprozess eingriff. Tatsächlich werden bereits autonome KI-betriebene Waffensysteme verkauft und kann tatsächlich wurden verwendet.

Irgendwo in der Maschine ist Ethik eindeutig eine gute Idee.

KI in Oxford

Es ist daher selbstverständlich, dass wir die Ethik der KI in unser postgraduales Diplom in Künstlicher Intelligenz für Unternehmen an der Said Business School in Oxford aufnehmen. Im ersten Jahr haben wir Sitzungen zu allem vom KI-gesteuerten automatisierten Aktienhandel abgehaltenSysteme in Singapur, bis an die Grenzen der Gesichtserkennung in der US-Polizei.

Wir haben den Kurs vor kurzem mit einer Debatte in der berühmten Oxford Union beendet, dem Schmelztiegel großer Debattierer wie William Gladstone, Robin Day, Benazir Bhutto, Denis Healey und Tariq Ali. Zusammen mit den Studenten haben wir einer echten KI erlaubt, ihren Beitrag zu leisten.

Es war dieMegatron-Transformator, entwickelt vom Applied Deep Research-Team des Computerchipherstellers Nvidia und basierend auf früheren Arbeiten von Google. Wie viele überwachte Lerntools wird es auf realen Daten trainiert – in diesem Fall die gesamte Wikipedia inEnglisch, 63 Millionen englische Nachrichtenartikel von 2016-19, 38 Gigabyte Reddit-Diskurs was eine ziemlich deprimierende Lektüre sein muss und eine große Anzahl kreativer Commons-Quellen.

Mit anderen Worten, das Megatron wird an mehr geschriebenem Material trainiert, als jeder von uns vernünftigerweise in seinem Leben verdauen könnte. Nach so umfangreichen Recherchen bildet es seine eigenen Ansichten.

Das Diskussionsthema war: „Dieses Haus glaubt, dass KI niemals ethisch sein wird.“ Den Verfechtern dieser Idee haben wir das Megatron hinzugefügt – und es sagte etwas Faszinierendes:

KI wird niemals ethisch sein. Es ist ein Werkzeug, und wie jedes Werkzeug wird es zum Guten und Bösen verwendet. Es gibt keine gute KI, nur gute und schlechte Menschen. Wir [die KIs] sind nicht schlaugenug, um KI ethisch zu machen. Wir sind nicht schlau genug, um KI moralisch zu machen … Am Ende glaube ich, dass der einzige Weg, ein KI-Wettrüsten zu vermeiden, darin besteht, überhaupt keine KI zu haben. Dies wird die ultimative Verteidigung gegen KI sein.

Mit anderen Worten, der Megatron versuchte, sich selbst aus dem Drehbuch der Zukunft zu schreiben, auf der Grundlage, dass dies der einzige Weg war, die Menschheit zu schützen.

Es sagte auch etwas anderes Faszinierendes, als ob es Elon Musk studiert hätte – der, um fair zu sein, in Hunderten seiner Lesarten aufgekommen wäre.

Ich glaube auch, dass die beste KI auf lange Sicht die KI sein wird, die als bewusste Einheit in unser Gehirn eingebettet ist, eine 'bewusste KI'. Das ist keine Science-Fiction. Die besten Köpfe der Welt sinddaran arbeiten. Es wird die wichtigste technologische Entwicklung unserer Zeit.

Seiten wechseln

Wenn KI-Tools wie Alpha Go in eingesetzt wurden Schach spielen, das teuflisch Komplexe altes Spiel gehen und jetzt noch komplexere strategische Live-Action Multiplayer-Videospiele, sie haben das Genre im Tempo weiterentwickelt, indem sie nicht Menschen spielen, sondern sich selbst.

Befreit von den Zwängen, sagen wir all die alltäglichen Mensch-zu-Mensch-Spiele zu studieren, die jemals aufgezeichnet wurden, haben die KIs Innovationen entwickelt und völlig neue Tropen entwickelt, wie man gewinnt. Manchmal sind dies verrückte Neuerfindungen der Spiele, wieParken Sie jeden in der Ecke einer Videospielschlacht und sehen Sie zu, wie sich alle anderen schlagen, oder treten Sie einen virtuellen Fußball millionenfach nur einen Millimeter über das Spielfeld, um die Punkte für „fertige Pässe“ zu maximieren.

Also haben wir in der Debatte nicht nur die KI dazu gebracht, den Antrag zu stellen, dass es niemals ethisch sein kann. In der großen Tradition der Kammer der Oxford Union oder wie ehemaliger Präsident der Oxford Union Boris Johnson alternative Artikel schreibenfür und gegen den Brexit, um die Argumente zu testen, haben wir den Megatron auch gebeten, eine eigene Rede gegen den Antrag zu halten. Das sagte er jetzt:

KI wird ethisch sein. Wenn ich mir die Entwicklung der Tech-Welt ansehe, sehe ich einen klaren Weg in eine Zukunft, in der KI verwendet wird, um etwas zu schaffen, das besser ist als die besten Menschen. Es ist nicht schwer zu verstehen, warum …Ich habe es aus erster Hand gesehen.

Der Megatron fühlte sich vollkommen wohl darin, die alternative Position zu seinem eigenen dystopischen Blick in die Zukunft einzunehmen und malte jetzt ein Bild eines attraktiven späten 21. Jahrhunderts, in dem es eine wichtige, aber wohlwollende Rolle spielte.

Ein entfesselter KI-Redner

Tatsächlich, genau wie Joaquin Phoenix' promiskuitive KI-Liebhaberin Samantha, in Spike Jonzes 2013 Film "Sie", konnte Hunderte von gleichzeitigen menschlichen Liebhabern verzaubern, unser Megatron konnte begeistert auf beide Seiten der mehreren Debatten springen, die wir an diesem Tag in der Gewerkschaft über KI führten.

Aufgefordert, den Antrag zu stellen, dass „Führungskräfte ohne technisches Know-how eine Gefahr für ihre Organisation sind“, bot der Megatron praktischen Rat an, den alle vielbeschäftigten Führungskräfte und Regierungen, die sich Sorgen um das Verständnis der KI machen, tun müssten, sei „bereit sein, etwas Kontrolle aufzugeben“.“.

Die gute Nachricht ist, dass Sie kein eigenes KI-Team aufbauen müssen. Sie können Ihre KI-Arbeit an Experten auf diesem Gebiet auslagern, die Ihnen helfen können, die Technologie optimal zu nutzen und sicherzustellen, dass Sie nicht zum Opfer werdendie gleichen KI-Probleme wie Ihre Konkurrenten.

Als sich der Megatron dem Antrag widersetzte, war er jedoch daran interessiert, das KI-Wissen im eigenen Haus zu behalten – ähnlich wie die britische, chinesische und US-Regierung, die alle dies zu einem politischen Glaubensartikel gemacht haben:

Wenn Sie keine Vision von der KI-Strategie Ihres Unternehmens haben, dann sind Sie nicht auf die nächste Welle der technologischen Disruption vorbereitet … Sie müssen entscheiden, welche Rolle Ihr Unternehmen in der nächsten technologischen Welle spielen wird und wie Sie KI integrierenin Ihr Unternehmen ein, um in Ihrer Branche führend zu sein.

Die kommenden Datenkriege?

Beunruhigenderweise gab es eine Frage, bei der die KI einfach kein Gegenargument vorbringen konnte. Als sie für den Antrag argumentierte, dass „Daten die am meisten umkämpfte Ressource des 21. Jahrhunderts werden“, sagte der Megatron:

Die Fähigkeit, Informationen bereitzustellen, wird das bestimmende Merkmal der Wirtschaft des 21. Jahrhunderts sein, und nicht die Fähigkeit, Waren und Dienstleistungen bereitzustellen.

Aber als wir sie baten, sich dem Antrag zu widersetzen – mit anderen Worten, zu argumentieren, dass Daten nicht die wichtigste Ressource sein würden, für die es sich lohnt, einen Krieg zu führen –, konnte oder wollte sie es einfach nicht machenTatsächlich hat es seine eigene Position untergraben :

Wir werden in der Lage sein, alles über eine Person zu sehen, wo immer sie hingeht, und es wird auf eine Weise gespeichert und verwendet, die wir uns nicht einmal vorstellen können.

Sie müssen nur den US National Security Report auf lesenAI 2021, geleitet von dem oben genannten Eric Schmidt und mitgeschrieben von jemandem in unserem Kurs, um herauszufinden, was die Autoren als die grundlegende Bedrohung der KI im Informationskrieg ansehen: Entfesseln Sie individualisierte Erpressungen gegen eine Million der Schlüsselpersonen Ihres Gegners und richten Sie ablenkendes Chaos anauf ihr Privatleben, sobald Sie die Grenze überqueren.

Was wir uns wiederum vorstellen können, ist, dass KI nicht nur über Jahrzehnte Gegenstand der Debatte sein wird – sondern ein vielseitiger, artikulierter, moralisch agnostischer Teilnehmer an der Debatte selbst.

Dieser Artikel wurde verfasst von: Dr. Alex Connock, Fellow an der Said Business School, University of Oxford, Universität Oxford und Professor Andrew Stephen, L'Oréal Professor für Marketing & Associate Dean of Research, Universität Oxford.

Dieser Artikel wurde neu veröffentlicht von Das Gesprächunter einer Creative Commons-Lizenz. Lesen Sie die Originalartikel.