Im Gespräch mit meiner Teenager-Tochter letzte Woche habe ich darauf hingewiesenein Nachrichtenbericht was Bedenken hinsichtlich der Verwendung von Gesichtserkennungstechnologien in mehreren Schulkantinen in North Ayrshire, Schottland, zum Ausdruck brachte. Neun Schulen in der Region haben diese Praxis kürzlich eingeführt, um die Bezahlung für das Mittagessen schneller zu übernehmen und das COVID-Risiko zu minimieren, obwohl sie dies getan haben seit Pause Technologie ausrollen.
Als ich meine Tochter fragte, ob sie Bedenken hinsichtlich des Einsatzes von Gesichtserkennungstechnologie in ihrer Schulkantine hätte, antwortete sie beiläufig: „Eigentlich nicht. An der Kasse würde es aber viel schneller gehen.“
Ihre Worte bestätigen die Sorge um die Kinder viel weniger bewusst ihrer Datenrechte im Vergleich zu Erwachsenen. Und obwohl es für Kinder unter einer Reihe von besonderen Bestimmungen und Garantien gibtDatenschutzgesetzeDer Einsatz von Gesichtserkennungstechnologie bei Kindern könnte einzigartige Datenschutzrisiken darstellen.
Gesichtserkennungstechnologienidentifizieren und authentifizieren Sie die Identitäten von Personen, indem Sie Gesichter erkennen, erfassen und mit Bildern aus einer Datenbank abgleichen. Die Technologien werden von künstlicher Intelligenz KI angetrieben, insbesondere der Technologie, die als maschinelles Lernen bekannt ist.
Maschinelles Lernen sagt Ergebnisse basierend auf historischen Daten oder Algorithmen voraus, die in das System eingespeist wurden. Für die Gesichtserkennung sagt maschinelles Lernen also die Identität voraus, die mit einer digitalen Darstellung des Gesichts einer Person oder dem „Gesichtsabdruck“ verbunden ist, basierend aufeine Datenbank mit Gesichtsbildern. Die Software passt sich durch diese Erfahrung an und lernt mit der Zeit, leichter Vorhersagen zu treffen.
Gesichtserkennungstechnologie wird jetzt auf vielfältige Weise verwendet, z. B. um die Identität von Mitarbeitern zu überprüfen, persönliche Smartphones zu entsperren, Personen auf Social-Media-Plattformen wie Facebook zu markieren und sogar für Überwachungszwecke in einigen Ländern.
Die Gesichtserkennungstechnologie allein ist nicht das Problem. Das Problem ist vielmehr, wie sie verwendet wird und in diesem Fall die Tatsache, dass die Technologie jetzt Schulkorridore infiltriert und auf eine gefährdete demografische Gruppe abzielt: Kinder.
Was sind also die Datenschutzprobleme für Kinder?
Ihr Gesichtsabdruck sind Ihre Daten, daher ist es für jedes Gesichtserkennungssystem wichtig zu verstehen, wie die Bilddatenbanken zusammengestellt und gespeichert werden. Obwohl ich der Verwendung von Gesichtserkennungstechnologie beim Betreten eines Konzertsaals widerwillig zustimmen kann, würde ich es nicht tunIch freue mich, wenn mein Gesichtsabdruck für „andere kommerzielle Zwecke des Unternehmens“ aufbewahrt wurde ein Satz, der im Kleingedruckten von Ticketverkäufen bezüglich der Verwendung personenbezogener Daten häufig vorkommt.
Wenn Gesichtserkennungstechnologie in Schulen verwendet wird, benötigen wir klare Informationen darüber, ob und wie die Bilder der Schüler über den Zweck der Mittagspause hinaus verwendet werden. Werden sie beispielsweise an Dritte weitergegeben?, und zu welchem Zweck? Es könnten Probleme auftreten, wenn beispielsweise Gesichtsabdrücke mit anderen Daten über das Kind verknüpft werden, wie zum Beispiel mit seinen Essenspräferenzen. Dritte könnten diese Daten theoretisch für Marketingzwecke verwenden.
Wir benötigen auch Informationen zum Schutz der Bilder. Wenn die Gesichtsabdrücke der Schüler nicht ordnungsgemäß gesichert sind oder das System nicht robust genug ist, um Hacker abzuwehren, entstehen Cybersicherheitsrisiken. Es kannes Hackern möglich sein, die Gesichtsabdrücke von Kindern mit anderen Daten über sie zu verknüpfen und sie zu verfolgen.
Das erhöhte Datenschutzrisiko im Zusammenhang mit der Verwendung von Gesichtserkennungstechnologien in Schulen bezieht sich auch auf die Einwilligung nach Aufklärung. Obwohl UK Datenschutzgesetz gibt an, dass Kinder ab 13 Jahren der Verarbeitung ihrer personenbezogenen Daten zustimmen können, dies bedeutet jedoch nicht, dass sie die Auswirkungen vollständig verstehen. Zum Beispiel eine Umfrage fand heraus, dass Kinder zwischen acht und 15 Jahren Schwierigkeiten hatten, die Nutzungsbedingungen von Instagram zu verstehen.
Kinder, Eltern und Erziehungsberechtigte sollten nicht weniger als vollständige Informationen in einer für Kinder leicht verständlichen Sprache erhalten. Jede betroffene Person, auch ein Kind, hat das Recht, genau zu erfahren, wie ihre personenbezogenen Daten verarbeitet, weitergegeben,und gespeichert werden und können die Bedingungen festlegen, unter denen ihre Zustimmung gilt. Alles, was weniger als Besonnenheit und Transparenz ist, gefährdet die Privatsphäre von Kindern.
Normalisierung der Überwachung von Kindern?
Dies sind nur einige der Fragen, die der Einsatz von Gesichtserkennungstechnologien in Schulen aufwirft. Die Gesichtserkennungstechnologie birgt auch andere Risiken, wie beispielsweise Fehler, die zum Beispiel dazu führen können, dass Schüler falsch abgerechnet werden. Und wie bei jedem KI-System, sollten wir uns Sorgen machen, ob die Algorithmen und Datensätzefrei von Voreingenommenheit und saubere, vollständige und repräsentative Trainingsdaten haben.
Wichtig ist, dass der Einsatz von Gesichtserkennungstechnologien in Schulen auch dazu beiträgt, die Überwachung von Kindern zu normalisieren. Es ist möglich, dass das Wissen, das sie auf diese Weise nachverfolgen, das Wohlbefinden einiger Kinder beeinträchtigen kann.
Es ist nicht verwunderlich, dass die Datenaufsicht des Vereinigten Königreichs, das Information Commissioner's Office, eingetreten um den Einsatz von Gesichtserkennungstechnologien in Warteschlangen in der Schule zu untersuchen. Und angesichts der Untersuchung ist es erfreulich zu sehen, dass der North Ayrshire Council dies getan hatAusrollen pausiert die Praxis.
Aber wenn wir weiter in das digitale Zeitalter vordringen, ist es möglich, dass der Einsatz von Gesichtserkennungstechnologien bei Schulkindern wieder aufgenommen und sogar noch breiter genutzt wird. Wenn dies geschehen soll, muss der Einsatz von Gesichtserkennung wesentlich mehr Vorteile bringen alsunter Berücksichtigung der besonderen Umstände der Anwendung der Technologie bei Kindern.
Pin Lean Lau, Dozent für Bio-Recht, Brunel Law School | Center for Artificial Intelligence: Social & Digital Innovations, Brunel University London
Dieser Artikel wurde neu veröffentlicht von Das Gespräch unter einer Creative Commons-Lizenz. Lesen Sie die Originalartikel.