Twitter mit Sitz in San Francisco führt die allererste Algorithmus-Bias-Bounty-Herausforderung ein und die Initiative könnte die Branche verändern.
"Es ist schwierig, Verzerrungen in Modellen des maschinellen Lernens ML zu finden, und manchmal erfahren Unternehmen von unbeabsichtigten ethischen Schäden, wenn sie bereits die Öffentlichkeit erreicht haben. Das möchten wir ändern." schrieb in ein Blog Twitter-Führungskräfte Rumman Chowdhury und Jutta Williams.
"Wir sind davon inspiriert, wie die Forscher- und Hacker-Communitys dem Sicherheitsbereich geholfen haben, Best Practices für die Identifizierung und Minderung von Schwachstellen zu entwickeln, um die Öffentlichkeit zu schützen. Wir möchten eine ähnliche Community aufbauen, die sich auf ML-Ethik konzentriert, um uns bei der Identifizierung zu helfenein breiteres Themenspektrum, als wir es alleine könnten. Mit dieser Herausforderung wollen wir bei Twitter und in der Branche einen Präzedenzfall für die proaktive und kollektive Identifizierung von algorithmischen Schäden schaffen."
In Anbetracht dessen teilt das Unternehmen sein Auffälligkeitsmodell und den Code, der verwendet wird, um einen Ausschnitt eines Bildes mit einem vorhergesagten maximal auffälligen Punkt zu generieren, und fordert die Teilnehmer auf, es zu bewerten und potenzielle Verzerrungen auszusortieren.
Gewinner erhalten $3.500 für den ersten Platz, $1.000 für den zweiten Platz, 500 $ für den dritten Platz, $1.000 für das innovativste und $1.000 für Most Generalizable. Der Wettbewerb ist ein großartiger Schritt von Twitter, um das Unternehmen in einem positiven Licht zu präsentieren, und es kann sich sehr gut auszahlen.
Eine im letzten April veröffentlichte Studie ergab, dass die Leute denken immer noch Computerprogramme sind vertrauenswürdiger als ihre Mitmenschen – besonders wenn die Aufgabe anspruchsvoll ist.
Es sollte jedoch beachtet werden, dass im September 2020 Twitters Fotovorschaufunktion wurde gefunden zu möglicherweise haben eine rassistische Voreingenommenheit. Twitter bedankte sich damals bei allen für das Finden des Fehlers und behauptete, dass sie beim Testen des Algorithmus keine Hinweise auf rassistische und/oder geschlechtsspezifische Vorurteile gefunden hatten, aber dass eindeutig mehr Arbeit geleistet werden musste.
Die Gewinner werden am 8. August im DEF CON AI Village bekannt gegeben.