Bias in AI ist ein kritisches Thema, das in den letzten 18 Monaten zugenommen hat. Extreme Beispiele haben enorme Auswirkungen, wie z. Amazonas sexistischer Einstellungsbot und Microsoft AI Twitter-Versuche .
Das Feld mit dem Titel 'Bias in künstlicher Intelligenz lösen' auf der CES 2019 vermieden diese beängstigend Überschriften und versuchte, eine nachdenkliche Diskussion darüber zu führen, wie in einem schnell wachsenden Sektor bedeutende Veränderungen vorgenommen werden können.
Wie bei vielen Panels bisher wurde die Diskussion in Bezug auf die behördliche Kontrolle relativ streng gehalten.
Vertreter des Gremiums von Industrie und Regierung
Michael Hayes, Senior Manager für Regierungsangelegenheiten bei der Consumer Technology Association, moderierte das Gespräch zwischen den Panelmitgliedern Austin Carson von Nvidia, Bari Williams, Vizepräsident für Recht, Politik und Wirtschaft bei All Turtles, und Sunmin Kim, Beraterin für Technologiepolitik vondas Büro von Senator Brian Schatz.
Williams leitete das Verfahren ein, indem er darüber sprach, wie Voreingenommenheit aus vielen verschiedenen Blickwinkeln betrachtet werden kann. Sie erklärte, dass sie Voreingenommenheit für sie persönlich unterschiedlich sah, je nachdem, ob sie sich für ihre drei Kinder wie eine Mutter verhielt und sich als schwarze Frau identifizierteoder durch die Linse ihrer Arbeit als Anwältin schauen.
Dies ist ein wichtiger Punkt, der zu beachten ist, und einer der Gründe, warum das Erkennen von Voreingenommenheit die halbe Miete sein kann. Das Gremium wies schnell darauf hin, dass Voreingenommenheit in der KI im Gegensatz zu anderen Teilen der Technologiebranche nicht von dort herrührtschlechte Schauspieler es kommt von schlechten Informationen.
Schlechte Daten, keine schlechten Schauspieler
Keines der Panels schlug vor, dass Voreingenommenheit auf böswilliges Engineering zurückzuführen ist, sondern eine Kombination vieler Faktoren, die sowohl mit Input als auch mit Output zusammenhängen. Die Federal Trade Commission hat dies veröffentlicht. ein Bericht im Jahr 2016 bei Big Data wird gefragt, ob es inklusive oder exklusiv ist.
Der Bericht wurde abgeschlossen, indem Benutzer von Big Data aufgefordert wurden, zu prüfen, ob ihr Datensatz früher verwendet wurde. Algorithmen erstellen ist repräsentativ oder repräsentiert nur ein bestimmtes Segment.
Zweitens provoziert es die Entwickler von KI-Technologie, zu fragen, was der Algorithmus tut, wie er das extrahiert. Beruht er seine Entscheidung auf den Faktoren, die mit seinen beabsichtigten Daten oder anderen Mustern zusammenhängen, die er möglicherweise identifiziert und die versehentlich zu Verzerrungen führen?
In Bezug auf die Vorschriften stimmte das Gremium zu, dass die Regierung mehr tun kann, als dass das Vorhandensein von Branchenexpertenwissen im Entscheidungsprozess der Schlüssel zum Fortschritt ist.
Ein weiterer Punkt, der vom Gremium angesprochen und diskutiert wurde, war die Notwendigkeit von verschiedene Teams im technischen Bereich im Allgemeinen. Je vielfältiger die Engineering- und Programmierteams sind, desto wahrscheinlicher ist es, dass Vorurteile frühzeitig erkannt und behoben werden, anstatt dass sie im Laufe der Zeit verweilen und sich entwickeln.
Verschiedene Teams bedeuten, dass Voreingenommenheit eher ernst genommen wird.
Diversity-Schlüssel zur Adressierung von Verzerrungen
Die Lösung für mehr Vielfalt war in einem vorherigen Panel angesprochen und die Herausforderungen, die Zahl der Frauen und Farbigen in der Technik zu erhöhen, lassen auf der CES weiter nach.
Ein weiterer faszinierender Punkt, den das Panel angesprochen hat, war die Idee, dass KI tatsächlich dazu beitragen kann, Verzerrungen zu erkennen und zu überwinden. Technisch gesehen sollte es keine bessere Maschine geben, um nach Verzerrungsverhalten zu suchen als intelligente KI.
Abschließend Hayes gratulierte dem Panel zur Anwesenheit und zur Auseinandersetzung mit den schwierigen Ideen im Zusammenhang mit Voreingenommenheit in der KI. Der erste Schritt zur Überwindung der Voreingenommenheit bestehe darin, sie zu erkennen, was heute im Panel geschehen sei.