Nach Recherchen bis zu 1 Milliarde Kinder 2 bis 17 Jahre haben 2014 irgendeine Form von Missbrauch erlebt. Während der technologische Fortschritt viele Vorteile mit sich gebracht hat, hat der Boom des Internets, der Plattformen für soziale Netzwerke und des mobilen Computing auch Kanäle geschaffen, über die Kindesmisshandlung und räuberische Handlungen wirkenKinder können passieren.
Die Regierungen von Five Eyes - Australien, Kanada, Neuseeland, Großbritannien und die USA - führen die Anklage an, die Interessengruppen der Technologiebranche zu zwingen, sich stärker zu engagieren und den Kampf gegen missbräuchliche Handlungen und Praktiken online zu verstärkendas US-Justizministerium, die Gruppe enthüllt elf freiwillige Grundsätze um sexuelle Ausbeutung und sexuellen Missbrauch von Kindern im Internet zu verhindern und zu mildern. Vertreter von Technologiegiganten Facebook , Google und Microsoft waren bei der Veranstaltung anwesend.
Glücklicherweise liegt das Problem auch bei bestimmten Initiativen im Technologiebereich.
L1ght gehört zu den wenigen Unternehmen, die sich auf den Schutz der Sicherheit von Kindern im Internet konzentrieren. Als Anti-Toxizitätsunternehmen positioniert, wurde L1ght als Plattform entwickelt, mit der schädliches Verhalten und Inhalte mithilfe künstlicher Intelligenz KI online genau identifiziert und vorhergesagt werden können. Diese Funktion kannOnline-Plattformen dabei unterstützen, schnell gegen missbräuchliche Benutzer und Inhalte vorzugehen, bevor sie jungen Internetnutzern Schaden zufügen.
Missbrauch online bekämpfen
Online-Plattformen sind für Kriminelle und Raubtiere zu einem Mittel geworden, um Inhalte zu konsumieren und auszutauschen, an denen missbrauchte Kinder beteiligt sind. A New York Times Bericht gefunden, dass 45 Millionen Online-Fotos und -Videos von Kindern, die missbraucht wurden, wurden 2018 von Technologieunternehmen gemeldet. Aus demselben Bericht ging hervor, dass das Ökosystem von Facebook genutzt wurde. 12 Millionen Fälle einschließlich solcher Bilder.
Die meisten Plattformen verfügen über Maßnahmen, um die Verbreitung schädlicher Inhalte zu verhindern. In der Regel können Inhalte überprüft, moderiert und gefiltert werden. Facebook und YouTube verfügen bereits über Mechanismen, um missbräuchliche Inhalte zu entfernen, zu kennzeichnen und ein erneutes Hochladen zu verhindernFacebook hat engagierte Moderationsagenten, die gemeldete und gekennzeichnete Inhalte überprüfen. Leider ermöglichen die Lücken in diesen Maßnahmen immer noch die Verbreitung schädlicher Inhalte, insbesondere neuer Inhalte, die von technisch versierten Verstößen geteilt werden.
Zu den Grundsätzen, die durch die Bemühungen gefördert werden, gehören: gründliche Überprüfung der Sicherheitsprozesse, Verständnis der Art des Online-Kindesmissbrauchs, Ermittlung von Bereichen mit hohem Risiko auf Plattformen, Ermittlung von Lücken in bestehenden Maßnahmen, Investition in innovative Tools und Lösungen und Reaktion auf die sich entwickelnden MaßnahmenBedrohungen.
Wie KI helfen kann
Es scheint ein Zufall zu sein, dass mit der Forderung nach besseren Lösungen auch Anstrengungen unternommen werden, die darauf abzielen, diese bereitzustellen. Die Plattform von L1ght ist bereit, im Kampf gegen schädliche Inhalte und Ausbeutung von Kindern eine entscheidende Rolle zu spielen. Das Unternehmen verfügt über proprietäre Algorithmen, die dies ermöglichensind in der Lage, schädliche Text-, Bild-, Audio- und Videoinhalte in Echtzeit zu analysieren und zu kennzeichnen, die bereitgestellt und in Social Media-Plattformen, Kommunikations- und Messaging-Anwendungen sowie Online-Videospiele integriert werden können. Dies würde dazu beitragen, die Funktionen weiter zu verbessernvon Filter- und Moderationsmaßnahmen, damit die Plattform sofort gegen solche Verstöße vorgehen kann.
Die KI kann auch kontinuierlich lernen und sich von Tätern an sich ändernde Methoden anpassen. Konventionelle wörterbuchbasierte Textfilterung kann beispielsweise bekannte missbräuchliche Wörter oder Ausdrücke leicht verhindern, sie kann jedoch mithilfe von Code oder Rechtschreibung umgangen werden.
L1ght erhielt kürzlich eine Anschubfinanzierung in Höhe von 15 Mio. USD, um seine Entwicklung zu beschleunigen.
Eine konzertierte Anstrengung
Was im Kampf gegen diese immer noch wachsende Krise wirklich benötigt wird, ist eine konzertierte Anstrengung aller Beteiligten. Die Einrichtung globaler Anstrengungen wie der WePROTECT Global Alliance das sich aus Regierungen, Strafverfolgungsbehörden, privaten Institutionen und gemeinnützigen Organisationen zusammensetzt, die die Grundsätze übernehmen und den Kampf gegen Kindesmissbrauch vorantreiben wollen, ist ein Schritt in die richtige Richtung.
Technologiegiganten und ihre massiven Online-Plattformen tragen einen großen Teil der Last bei der Festlegung von Maßnahmen, die es schädlichen Inhalten erschweren, auf ihren Plattformen Fuß zu fassen. Stärkere Beziehungen zwischen privaten Institutionen und Strafverfolgungsbehörden sollten auch die Lücke zwischen der Identifizierung schließenTäter und Opfer und angemessener Umgang. Die Entstehung neuer Lösungen, die speziell auf die Lösung des Problems abzielen, ist auf jeden Fall eine willkommene Entwicklung.