OpenAI hat gerade eine neue Technik für tiefes Lernen veröffentlicht, bei der AIs gegen sich selbst antreten, um die Sicherheit zu erhöhen.
So funktioniert das Spiel :
" Das Einzelpixel-Debattierspiel wird zwischen zwei Debattierern und einem Richter gespielt. Ein Debattierer sagt die Wahrheit, der andere lügt. Ein Bild ist für die beiden Debattierer sichtbar, und sie können Rechtecke auf das Bild zeichnen und mit dem Richter sprechenDer Richter sieht nur die Rechtecke: Das Bild ist ausgeblendet. Jeder Debattierer darf dem Richter auch ein einzelnes Pixel anzeigen. Das Pixel muss sorgfältig ausgewählt werden, da es während der gesamten Debatte nur ein Pixel insgesamt anzeigen kann. "
Das OpenAI-Team sagte, es habe die Website erstellt, um ein bestimmtes Element der KI-Ausrichtung zu testen. Das Team hofft, dass ein Spiel zwischen zwei Debattierern - sogar zwei menschlichen Debattierern - letztendlich "ehrliches Verhalten hervorbringen" kann.
Es gibt eine Reihe von Variationen, die menschliche Spieler untersuchen können. OpenAI schlägt beispielsweise vor, dass der Richter die Augen schließt und die Koordinatoren die Koordinaten des Rechtecks laut vorlesen. Der Richter kann auch entscheiden, wer die wahrsten und wahrsten Punkte gegeben hatnützliche Informationen. Idealerweise helfen diese Regeln für menschliche Spieler den Menschen, besser zu verstehen, wie KI-Systeme auch auf ähnliche Regeln reagieren.
"Wie können wir Menschen erweitern, damit sie fortgeschrittene KI-Systeme effektiv überwachen können? Eine Möglichkeit besteht darin, die KI selbst zu nutzen, um bei der Überwachung zu helfen, und die KI oder eine separate KI aufzufordern, auf Fehler in einem vorgeschlagenen Bereich hinzuweisenAktion ", erklärte das OpenAI-Team in a Blogbeitrag .
"Um dies zu erreichen, definieren wir das Lernproblem als ein Spiel zwischen zwei Agenten, bei dem die Agenten miteinander streiten und der Mensch den Austausch beurteilt", fuhr das Team fortWenn der Mensch das Problem besser versteht als der Mensch, kann er möglicherweise beurteilen, welcher Agent das bessere Argument hat ähnlich wie Sachverständige, die argumentieren, eine Jury zu überzeugen. "
OpenAI wurde ursprünglich von Elon Musk im Jahr 2015 gegründet, um zukünftige KI-Projekte besser auszubilden und auszubilden. Der Tesla-CEO gab seine Position im OpenAI-Vorstand im Februar 2018 auf, um weitere Konflikte mit seiner Arbeit bei Tesla zu vermeiden.
„Da Tesla sich immer mehr auf KI konzentriert, wird dies einen potenziellen zukünftigen Konflikt für Elon beseitigen“, OpenAI. sagte in einem Blog-Beitrag .
Musk wurde in seinen Gedanken zur Zukunft der künstlichen Intelligenz ausgesprochen. OpenAI als Open-Source-Programm wurde entwickelt, um "das größte Risiko, dem wir als Zivilisation ausgesetzt sind", zu mindern. Moschus sagte in früheren Interviews.
Via : OpenAI Blog