Norbert Aepli Norbert Aepli / Wikimedia
Eine Schätzung 33 Millionen Autonome Fahrzeuge werden bis 2040 unterwegs sein, wodurch möglicherweise einige der Gefahren beseitigt werden, die von fehlbaren menschlichen Autofahrern ausgehen. Schließlich ist künstliche Intelligenz nicht anfällig für Straßenrummel, abgelenktes Fahren oder die Fähigkeit, am Steuer einzuschlafen.
Aber es gibt noch andere Bedenken, die Sie berücksichtigen sollten, wenn Sie sich eine Zukunft vorstellen, in der Jarvis übernimmt das Steuer : Rassismus, Sexismus und Fähigkeitsbewusstsein.
Hauttonerkennung
Algorithmen sind nicht perfekt. Sie wurden von Menschen entworfen, die fehlbar sind. Sie können leicht die Vorurteile ihrer Schöpfer widerspiegeln. Algorithmen lernen aus den Beispielen, die sie erhalten. Wenn ihnen nicht genügend Beispiele für verschiedene Populationen gegeben werdenwird es in der Praxis schwieriger sein, sie zu erkennen.
Im Jahr 2021 Die Rechtskommission begann mit der Ausarbeitung eines rechtlichen Rahmens für die Einführung autonomer Fahrzeuge auf britischen Straßen und sagte, sie könnten "Schwierigkeiten haben, dunkelhäutige Gesichter im Dunkeln zu erkennen". Menschen mit Behinderungen, so der Bericht, sind ebenfalls gefährdet ", Systeme möglicherweise nichtwurden für den Umgang mit der ganzen Vielfalt an Rollstühlen und Mobilitätsrollern geschult. "
A Bericht 2019 hatte ähnliche Ergebnisse. Forscher von Georgia Tech untersuchten acht KI-Modelle, die in hochmodernen Objekterkennungssystemen verwendet wurden, um ihre Studie abzuschließen. Diese Systeme ermöglichen autonome Fahrzeuge um Verkehrszeichen, Fußgänger und andere Objekte beim Navigieren auf Straßen zu erkennen.
Sie testeten diese Systeme anhand von zwei verschiedenen Kategorien, basierend auf der Fitzpatrick-Skala, einer Skala, die üblicherweise zur Klassifizierung der menschlichen Hautfarbe verwendet wird. Insgesamt verringerte sich die Genauigkeit des Systems um fünf Prozent, wenn es mit Gruppen von Bildern von Fußgängern mit dunkleren Hauttönen dargestellt wurdeDie Modelle zeigten eine „gleichmäßig schlechtere Leistung“, wenn sie mit Fußgängern mit den drei dunkelsten Farbtönen auf der Skala konfrontiert wurden.
Jenseits des Fahrersitzes
Rassismus in KI-Systemen ist nicht auf Autos beschränkt. Die Gesichtserkennungssoftware von Amazon. Anerkennung hatte zum Beispiel Probleme, dunklere Hauttöne und weibliche Gesichter zu erkennen. Kopfschüsse von Congresspoeple mit Fotos aus einer Fahndungsdatenbank.
Im Mai letzten Jahres ProPublica berichtet, dass Software, die zur Unterstützung von Richtern bei der Ermittlung des Risikos eines Täters bei der Begehung eines Verbrechens verwendet wird, gegen Schwarze voreingenommen ist. Das System wird von Richtern bei strafrechtlichen Verurteilungen verwendet und liefert eine Bewertung basierend darauf, ob die Person wahrscheinlich erneut verurteilt wirdbeleidigen. Eine hohe Punktzahl deutet darauf hin, dass sie erneut beleidigen werden, eine niedrige Punktzahl deutet darauf hin, dass dies weniger wahrscheinlich ist.
Die investigativen Journalisten bewerteten die Risikobewertung, die 2013 und 2014 mehr als 7.000 Personen in Broward County in Florida zugewiesen wurde, und beobachteten dann, ob dieselben Personen in den nächsten zwei Jahren wegen neuer Verbrechen angeklagt wurden.
Der Algorithmus erwies sich nicht nur als unzuverlässig nur 20 Prozent der Menschen, von denen vorhergesagt wurde, dass sie Gewaltverbrechen begehen, sondern er war auch rassistisch voreingenommen. Schwarze Angeklagte wurden eher als zukünftige Kriminelle gekennzeichnet und bezeichneten sie fast fälschlicherweise als falschdoppelt so häufig wie weiße Angeklagte. Während weiße Angeklagte häufiger als risikoarm eingestuft wurden als schwarze Angeklagte.
Eine unvoreingenommene Zukunft
Die Bedeutung der Entwicklung unvoreingenommener KI-Systeme kann nicht genug betont werden. Bei autonomen Fahrzeugen wird zunächst einfach die Anzahl der Bilder dunkelhäutiger Fußgänger in den Datensätzen erhöht, die zum Trainieren der Systeme verwendet werden.
Ingenieure, die für die Entwicklung dieser Systeme verantwortlich sind, müssen mehr Gewicht darauf legen, die Systeme für diese Gruppe mit höherer Genauigkeit zu trainieren. Darüber hinaus werden die Unternehmen durch die Einstellung verschiedener Teams auf Anhieb für den Erfolg gerüstet.
Mit jedem Tag wird die KI mehr in unser Leben integriert . Es ist klar, dass die KI-Entwicklergemeinschaft sich gegen diese Art von massiv schädlicher Voreingenommenheit stellen muss.