Es kommt eine Zeit, in der das Erstellen von Wiedergabelisten oder die Auswahl der richtigen Schuhgröße mehr ist als das Online-Shopping, da Algorithmen beginnen, jeden Aspekt unseres konsumistischen Lebens zu rationalisieren.
Laut einer neuen Studie nehmen die Bedenken hinsichtlich der zunehmenden Eindringlichkeit von Algorithmen im täglichen Leben zu, aber die Menschen halten Computerprogramme nach wie vor für vertrauenswürdiger als ihre Mitmenschen - insbesondere wenn die Aufgabe eine Herausforderung darstellt. in der Zeitschrift veröffentlicht Wissenschaftliche Berichte .
Zählt als 'grundlegender Test' zum Testen des Vertrauens in Algorithmen
"Algorithmen können eine Vielzahl von Aufgaben ausführen, und die Anzahl der Aufgaben, die sie ausführen können, nimmt praktisch täglich zu", sagte Eric Bogert, Doktorand am Terry College der Abteilung für Managementinformationssysteme des Business College"Es scheint, als gäbe es eine Tendenz, sich stärker auf Algorithmen zu stützen, wenn eine Aufgabe schwieriger wird, und dieser Effekt ist stärker als die Tendenz, sich auf Ratschläge anderer zu verlassen."
Bogert arbeitete mit Professor Rick Watson für Managementinformationssysteme zusammen mit Assistenzprofessor Aaron Schecter an der neuen Studie, an der 1.500 Teilnehmer teilnahmen, die Fotos als Teil eines größeren wissenschaftlichen Werkes bewerteten, in dem untersucht wurde, wie - wie wann und wie - Menschenmit Algorithmen interagieren, um Informationen zu verarbeiten und zu entscheidenden Schlussfolgerungen zu gelangen.
In dieser Studie wurden Freiwillige gebeten, zu zählen, wie viele Personen sich auf einem Foto einer Menschenmenge befanden - und Vorschläge von eine Gruppe anderer Personen im Vergleich zu Vorschlägen, die von einem Computeralgorithmus generiert wurden.
Als die Menge bevölkerungsreicher wurde und das Foto größer wurde, begann das Zählen die Teilnehmer herauszufordern, die zunehmend das Wort des Algorithmus nahmen, anstatt auf andere Menschen zu zählen - oder sogar auf ihre eigenen Zählfähigkeiten, sagte Schecter in. ein TechXplore-Bericht . Er sagte auch, dass die Verwendung des Zählens als Versuchsrisiko von entscheidender Bedeutung sei, da die Anzahl der Personen auf jedem Foto eine Aufgabe darstellt, deren Schwierigkeit schwer als wirklich objektiv zu leugnen ist. Das Zählen ist eine Art von Aufgabe, die Laien normalerweise von Computern erwartenmit Leichtigkeit.
"Dies ist eine Aufgabe, bei der die Leute erkennen, dass ein Computer gut ist, auch wenn er möglicherweise eher einer Verzerrung als dem Zählen von Objekten unterliegt", sagte Schecter. "Eines der häufigsten Probleme bei der KI ist, wenn er für die Vergabe verwendet wirdKredit oder die Genehmigung von Personen für Kredite. Obwohl dies eine subjektive Entscheidung ist, gibt es viele Zahlen - wie Einkommen und Kredit-Score -, so dass die Leute der Meinung sind, dass dies ein guter Job für einen Algorithmus ist. "
Menschliche Vorurteile beeinträchtigen die Gesichtserkennung und die Einstellungsalgorithmen
"Wir wissen jedoch, dass Abhängigkeit in vielen Fällen aufgrund nicht berücksichtigter gesellschaftlicher Faktoren zu diskriminierenden Praktiken führt", fügte Schecter hinzu. Auch Gesichtserkennungs- und Einstellungsalgorithmen wurden in den letzten Jahren - seit ihrer Verwendung - kontrovers diskutierthat mehrere gezeigt kulturelle Vorurteile in ihre Systeme eingearbeitet - was zu fehlerhaften Ergebnissen führen kann, wenn Gesichter mit den Identitäten realer Personen abgeglichen werden - oder sogar fälschlicherweise vollqualifizierte Bewerber eliminiert werden, sagte Schecter.
Verzerrungen wie diese treten bei grundlegenden Aufgaben wie dem Zählen nicht wirklich auf, aber das Vorhandensein systemischer Verzerrungen in anderen allgemein vertrauenswürdigen Algorithmen zeigt, warum es wichtig ist zu verstehen, warum Menschen sich lieber auf Algorithmen als auf andere Menschen verlassen, fügte Schecter hinzu.
"Das letztendliche Ziel ist es, Gruppen von Menschen und Maschinen zu betrachten, die Entscheidungen treffen, und herauszufinden, wie wir sie dazu bringen können, sich gegenseitig zu vertrauen, und wie dies ihr Verhalten ändert", erklärte Schecter. Dieses Studienfeld ist unglaublich im Entstehen begriffen und - darüber hinausdie Wissenschaft - hat tiefgreifende ethische Implikationen für alle in der modernen Welt, was es unbeschreiblich kompliziert macht. Deshalb beginnen Schecter und sein Team "mit den Grundlagen".