Die US-amerikanische Federal Trade Commission hat Unternehmen wiederholt davor gewarnt, voreingenommene künstliche Intelligenz zu verwenden - unter Berufung auf die Art und Weise, wie sie gegen Verbraucherschutzgesetze verstoßen könnten. In einem kürzlich veröffentlichten Blog-Beitrag der FTC wird erläutert, wie KI-Tools "beunruhigende" geschlechtsspezifische und rassistische Vorurteile widerspiegeln können.insbesondere, wenn sie in einer Beschäftigung oder in einer Wohnung angewendet werden, während sie als unvoreingenommen beworben oder auf verdächtig gesammelten Daten geschult werden.
Von nun an kann die FTC, wenn sie dies wahrnimmt, eingreifen, wie aus dem kürzlich veröffentlichten Blogbeitrag hervorgeht. die offizielle Website der Agentur . Aber was bedeutet das für die Zukunft der KI in einer sich ständig weiterentwickelnden digitalen Infrastruktur?
Die FTC rät davon ab, KI fälschlicherweise als "unvoreingenommen" zu bewerben.
"In der Eile, neue Technologien einzuführen, achten Sie darauf, nicht zu viel zu versprechen, was Ihr Algorithmus liefern kann", schrieb Elisa Jillson, eine FTC-Anwältin, im Blog-Beitrag. Sie betonte die Bedeutung dieses Ratschlags, wenn Unternehmen Entscheidungen versprechen, die nicht behindert werden. Geschlecht oder rassistische Vorurteile . "Das Ergebnis kann Täuschung, Diskriminierung sein - und eine Strafverfolgungsmaßnahme der FTC." Die Vorsitzende der FTC, Rebecca Slaughter, sagte kürzlich, dass die Voreingenommenheit bei Algorithmen "ein Problem der wirtschaftlichen Gerechtigkeit" darstellt. a Protokoll Bericht .
Sowohl Jillson als auch Slaughter haben erklärt, dass Unternehmen möglicherweise nach dem Fair Credit Reporting Act oder dem Equal Credit Opportunity Act strafrechtlich verfolgt werden, wenn sie für schuldig befunden werden, unbefriedigende Entscheidungen auf KI-Basis getroffen zu haben - die unter Abschnitt 5 des FTC Act fallen könnten. "Es ist wichtig, dass Sie für die Leistung Ihres Algorithmus zur Rechenschaft gezogen werden ", sagte Jillson." Unsere Empfehlungen für Transparenz und Unabhängigkeit können Ihnen dabei helfen. "
"Aber denken Sie daran, dass die FTC dies möglicherweise für Sie tut, wenn Sie sich nicht zur Rechenschaft ziehen", warnte Jillson.
Die FTC hat möglicherweise Big Tech im Visier
Falls Sie es verpasst haben, handelt es sich bei AI um einen Catch-22, der die Fähigkeit besitzt, menschliche Vorurteile bei Einstellungsprozessen abzumildern und möglicherweise bereits vorhandene Vorurteile zu reproduzieren oder zu verschärfen - insbesondere, wenn er auf Daten trainiert ist, die wie gewohnt einen verzerrten Status Quo annehmenEs ist beispielsweise bekannt, dass die Gesichtserkennung die Gesichter von Schwarzen falsch interpretiert - was zu falschen Identifikationen und sogar zu Verhaftungen durch die Polizei führen kann. doppelt so wahrscheinlich, dass eine schwarze Person markiert wird als andere rassistische Hintergründe - die Ungleichheiten eines größeren Systems veranschaulichen können. Nicht-Binär- und Transgender-Personen werden häufig auch durch automatisierte Software zur Geschlechtserkennung falsch klassifiziert.
Und kürzlich sagte die Europäische Union, dass sie einige KI-Anträge möglicherweise weniger verzeiht - und einige möglicherweise für die Verwendung von "wahlloser Überwachung" und Sozialkredit-Scores verbietet. eine Initiale Politico Bericht . Richtig oder falsch, die nächsten Schritte der FTC stehen bevor, aber einige Kritiker stehen der Fähigkeit der Agentur, neue KI-Regeln bei künftigen Konfrontationen mit Technologieunternehmen durchzusetzen, skeptisch gegenüber. Bei einer kürzlich im Senat abgehaltenen Anhörung sagte Rohit Chopra - der FTC-Kommissar -Immer wieder, wenn große Unternehmen offenkundig gegen das Gesetz verstoßen, ist die FTC nicht bereit, sinnvolle Maßnahmen zur Rechenschaftspflicht zu ergreifen, "und drängt den Kongress und andere," die Seite über die wahrgenommene Ohnmacht der FTC umzublättern ". In der Technologiewelt, in der KI aufgebaut istund vermarktet, könnte dies auf stärkere Reaktionen auf Unternehmensjuggernauten wie Microsoft, Google, Facebook usw. hinweisen. und sogar Amazon .