Dank künstlicher Intelligenz und Gesichtserkennung können Sie Ihr Telefon entsperren, indem Sie Ihr Gesicht nur auf dem Bildschirm anzeigen. Die Technologie ist beeindruckend, aber was weniger verstanden wird, ist, wie AI Sie hinter den Kulissen anhand ihrer Algorithmen klassifiziert.
Jetzt können Sie dies dank herausfinden ImageNet Roulette wo Sie Bilder von sich hochladen und als bestimmte Art von Person markiert werden können, um zu verstehen, wie AI kategorisiert uns. Die Ergebnisse sind manchmal unterhaltsam, aber manchmal sind sie unhöflich und grenzwertig rassistisch.
VERBINDUNG: AIS WIRD WEITER UNVORHERSAGBAR HANDELN, SOLLTEN WIR PANISCH SEIN?
Was ist ImageNet Roulette?
Erstellt im Rahmen einer Kunstausstellung - Menschen trainieren - am Prada Foundation Museum in Mailand, ImageNet Roulette wurde erstellt, um uns zu zeigen, wie wir als Menschen von Computersystemen oder maschinellen Lernsystemen klassifiziert werden.
Sammeln von Informationen aus seinem neuronalen Netzwerk, das darauf trainiert ist, Kategorien von 'Personen'-Beschreibungen aus dem ImageNet-Datensatz auszuwählen, über das es verfügt 2.500 Kategorien zur Auswahl, um Menschen zu klassifizieren.
Diese Klassifikationen wurden zu einer Ausstellung in der Prada-Stiftung zusammengestellt, die von erstellt wurde. Trevor Paglen und Kate Crawford .
Möchten Sie sehen, wie eine auf ImageNet trainierte KI Sie klassifiziert? Probieren Sie ImageNet Roulette basierend auf den Personenklassen von ImageNet aus. Es ist Teil der Ausstellung 'Training Humans' von @trevorpaglen & ich - über die Geschichte und Politik von Trainingssets. Vollständiges Projekt bald verfügbar https://t.co/XWaVxx8DMC pic.twitter.com/paAywgpEo4
- Kate Crawford @katecrawford 16. September 2019
ImageNet Roulette ist online verfügbar. Jeder kann einen Screenshot machen oder ein Bild von sich selbst hochladen. Sie erhalten dann Ihre Klassifizierung basierend auf dem hochgeladenen Bild.
ImageNet hingegen ist eines der wichtigsten und wichtigsten Trainingssets für künstliche Intelligenz. Es wurde 2009 eingeführt und ist exponentiell gewachsen.
Durchsucht das Internet nach Bildern, die es gesammelt hat Millionen von Fotos und wurde für eine Weile der weltweit größte akademische Benutzer von Amazonas mechanischer Türke . Am Ende des Tages hatte ImageNet 14 Millionen beschriftete Fotos, die haben 20.000 verschiedene Kategorien.
Was ist umstritten an der KI, die uns anhand unserer Bilder klassifiziert?
Durch ImageNet Roulette wird deutlich gemacht, dass einige Klassifikationen relativ harmlos sind, vielleicht sogar amüsant. Einige Leute sind es kategorisiert als "Nichtraucher", "Gesicht" oder sogar als "Psycholinguist". Nichts zu schrecklich.
Wenn jedoch einige Bilder im Dunkeln oder bei dunklerer Beleuchtung aufgenommen wurden, sprangen die Kategorien zu "Schwarz", "Schwarze Person", "Neger" und "Neger".
Das Imagenet-Roulette hat mich a genannt: Mulatte, Ersttäter, Witwe
- Karavellen waren ein portugiesisches Segelschiff @portugesesailor 16. September 2019
Für Personen mit dunkle Haut Die Etiketten sprangen zu "Mulatte", "Waise" und sogar "Vergewaltigungsverdächtiger". Der ganze Spaß verschwindet hier schnell.
Diese Kategorien wurden von der ursprünglichen ImageNet-Datenbank aus dem Jahr 2009 hinzugefügt, nicht von den ImageNet-Roulette-Erstellern.
Die Kategorien basieren im Wesentlichen darauf, wie eng die Bilder mit den Trainingsbildern von verknüpft sind. ImageNet-Datenbank .
„ImageNet Roulette ist eine Provokation, die uns helfen soll, herauszufinden, wie Menschen in maschinellen Lernsystemen klassifiziert werden.“ 😳 pic.twitter.com/7uqOQT1yCL
- Imraan Sathar @imy 17. September 2019
Dies zeigt, wie voreingenommen diese Algorithmen in der KI sein können. Die Daten wurden aus einer Reihe von Quellen zusammengestellt: den ursprünglichen Erstellern von ImageNet, der Gesellschaft, die die Bilder erstellt hat, den Meinungen der Arbeiter von Amazon Mechanical Turks und den Wörterbüchern, dielieferte die Wörter an erster Stelle.
Leider die Algorithmen wurden ursprünglich von Menschen erstellt und müssen diejenigen sein, die sie ändern, um Verzerrungen zu beseitigen.
Letztendlich heißt es auf der Website: "Wir möchten Aufschluss darüber geben, was passiert, wenn technische Systeme auf problematische Trainingsdaten trainiert werden. KI-Klassifikationen von Personen werden für die zu klassifizierenden Personen selten sichtbar gemacht. ImageNet Roulette bietet einen Einblick in diesen Prozess -und um zu zeigen, wie etwas schief gehen kann. "