Gesichtserkennungstechnologie namens Rekognition diese Woche. Derzeit ist das Tool in verwenden von Strafverfolgungsbehörden in Oregon und Orlando, falsch identifizierten Rep. John Lewis D-Ga. Und 27 anderen Mitgliedern des Kongresses als Kriminelle während eines von der ACLU in Auftrag gegebenen Tests. Folgendes ist passiert, als wir getestet haben
@Amazon Gesichtserkennungs-Tool für Kongressmitglieder. Spoiler-Alarm: Es lief nicht gut. pic.twitter.com/OovMb6XfT9 - ACLU @ACLU
27. Juli 2018 Gefährliche Ungenauigkeiten
ACLU befürchtet, dass das System der künstlichen Intelligenz KI gefährliche Ungenauigkeiten aufweist, die überproportional auf farbige Personen abzielen. Der Test veranlasste l
Awmaker und Kongressmitglieder müssen Briefe sowohl an den Gründer und CEO von Amazon, Jeff Bezos, als auch an die Strafverfolgungsbehörden senden. Senator Edward Markey und die Vertreter Luis Gutiérrez und Mark DeSaulnier
schrieb einen Brief an Bezos gerichtet, unter Berufung auf die Ergebnisse des jüngsten ACLU-Tests und die Forderung nach Beendigung der Erkennung sowie Einzelheiten zum aktuellen Einsatz der Technologie. Sens. Ron Wyden, Cory Booker und Ed Markey veröffentlicht eine andere Brief an den Polizeichef Jeffrey Smith gerichtet, der eine Überprüfung der 39 Strafverfolgungsbehörden hinsichtlich ihrer Verwendung der Gesichtserkennung und ihrer Richtlinien zur Verhinderung von Missbrauch und Missbrauch anfordert. NEU -
@SenBooker , @SenMarkey und ich fordere von 39 Strafverfolgungsbehörden des Bundes Einzelheiten zu ihrer Verwendung der Gesichtserkennungstechnologie und zu den gegebenenfalls geltenden Richtlinien zur Verhinderung von Missbrauch und Missbrauch an. https://t.co/RmEk8QApUV - Ron Wyden @RonWyden
27. Juli 2018 "Da [Gesichtserkennung] -Technologien an Verfügbarkeit und Genauigkeit zugenommen haben und die Kosten gesunken sind, verstehen wir, dass diese Technologie als Strafverfolgungsinstrument attraktiv erscheint", schrieben die Senatoren. "
Diese Technologie birgt jedoch Risiken, einschließlich der Beeinträchtigung des Rechts der Amerikaner auf Privatsphäre sowie rassistischer und geschlechtsspezifischer Vorurteile. " "Daher ist es für den Kongress wichtig, bei der Wahrnehmung seiner Aufsichtsfunktion besser zu verstehen, inwieweit die Strafverfolgungsbehörden des Bundes diese neuen Technologien einsetzen", erklärten die Autoren. In dem Schreiben wurde die Abteilung aufgefordert, darauf zu antwortenbis zum 12. September 2018.
Ein Test, der die Technologie von Amazon verwendet
ACLU führte ihren Test mit demselben Erkennungssystem durch, das der Öffentlichkeit auf der Amazon-Website zur Verfügung steht. Der Wachhund baute eine Datenbank und ein Suchwerkzeug mit 25.000 öffentlich verfügbaren Verhaftungsfotos auf und scannte dann jedes aktuelle Mitglied des Hauses und des Senats nach wahrscheinlichen Übereinstimmungen.
Werbung
Microsoft will staatliche Regulierung der Anerkennung von Gesichtern zum Schutz der Menschenrechte
Das System gab 28 falsche Übereinstimmungen zurück. "Die falschen Übereinstimmungen waren überproportional von farbigen Personen, darunter sechs Mitglieder des Black Caucus des Kongresses", schrieb ACLU in ihrer Erklärung.
Dies ist nicht das erste Mal, dass Bedenken hinsichtlich der Anerkennung aufgetaucht sind. Erst letzten Monat haben auch mehrere Amazon-Aktionäre
verlangt das System wird in die Warteschleife gestellt. „Obwohl die Anerkennung möglicherweise dazu gedacht ist, einige Strafverfolgungsaktivitäten zu verbessern, sind wir zutiefst besorgt, dass sie letztendlich die Bürger- und Menschenrechte verletzen könnte“, sagten die Aktionäre in einem Brief. „Wir befürchten, dass die Technologie zu unfairen und unverhältnismäßigen Zielen eingesetzt wirdund Menschen mit Hautfarbe, Einwanderer und Organisationen der Zivilgesellschaft zu überwachen “.
Via :
ACLU Werbung