Seltsamerweise hat ein Team von Microsoft Arbeiten an einem KI-Bot namens DeepCom veröffentlicht, mit dem gefälschte Kommentare zu Nachrichtenartikeln generiert werden können.
Das Team sagt, dass diese gefälschten Kommentare zu einem Engagement für neue Websites und Nachrichtenagenturen führen können, was im Wesentlichen die Verwendung gefälschter Konten fördert, um ein echtes Engagement für gefälschte Diskussionen zu generieren.
VERBINDUNG: EIN NEUES AI-WERKZEUG KANN UNS BEI DER BEKÄMPFUNG VON AI-WRITTEN FAKE NEWS HELFEN
Brauchen wir das?
Die kurze Antwort. Nein.
Das Internet ist bereits voller gefälschte Konten und Bots wird verwendet, um die breite Öffentlichkeit zu trollen und falsch zu informieren.
Die Frage des Forscherteams von Microsoft und Beihang Die Universität in China scheint jedoch zu fragen: Was schadet es, wenn gefälschte Kommentare verwendet werden, um die Diskussion in echten Nachrichtenlesern anzuregen und anzuregen?
Die Forscher argumentieren, dass Leser gerne Kommentare unter Nachrichtenartikeln veröffentlichen und ihre Meinungen teilen. Für Verlage erhöht dies das Engagement. Warum also nicht alles einen KI-Schub geben?
„Solche Systeme können den Kommentarservice für eine Nachrichtenwebsite von Kaltstart an aktivieren, das Leseerlebnis für weniger kommentierte Nachrichtenartikel verbessern und die Fähigkeitslisten anderer Anwendungen für künstliche Intelligenz wie Chatbots bereichern.“ Papier sagt.
Ein Artikel von Pekinger Forschern stellt eine neue Technik des maschinellen Lernens vor, deren Hauptanwendung Trolling und Desinformation zu sein scheinen. Sie wurde zur Veröffentlichung bei EMLNP, einem der drei wichtigsten Orte für die Forschung zur Verarbeitung natürlicher Sprache, angenommen. Cool Cool Cool https://t.co/ZOcrhjKiEc pic.twitter.com/Y8U5AjENrh
- Arvind Narayanan @random_walker 30. September 2019
Der Haken ist, dass das neue Papier, veröffentlicht am arXiv enthält keine Erwähnungen möglicher böswilliger Verwendungen oder der Gefahren, die die Technologie durch die Verbreitung gefälschter Nachrichten darstellen könnte. Mehrere Kritiker haben bereits Bedenken geäußert.
Neuronale Netze zum Lesen von Nachrichten
As Das Register Berichte, DeepCom verwendet gleichzeitig zwei neuronale Netze: ein Lese- und ein Erzeugungsnetzwerk.
Alle Wörter in einem Nachrichtenartikel werden als Vektoren für die Analyse durch die KI codiert. Das Lese-Netzwerk nimmt die wichtigsten Aspekte des Artikels eine Person, ein Ereignis oder ein Thema vor dem generierenden Netzwerk auferstellt darauf basierend einen Kommentar.
Die Forscher haben DeepCom in einem chinesischen Datensatz geschult, der aus Millionen menschlicher Kommentare besteht, die in Online-Nachrichtenartikeln veröffentlicht wurden, sowie in einem englischsprachigen Datensatz aus Artikeln auf Yahoo. ! Nachrichten.
Das obige Beispiel zeigt wichtige Teile von a Yahoo! Artikel rot hervorgehoben das Lesenetzwerk und was der Bot in Blau kommentiert das generierende Netzwerk.
Ein weiterer umstrittener Bot
Es ist nicht Microsofts erster Pinsel mit Bot-Kontroversen. Ihre AI bot "Tay "Bekanntermaßen musste es vor drei Jahren abgeschafft werden, nachdem es schnell gelernt hatte, rassistische, homophobe und antifeministische Botschaften zu twittern, nachdem es in einer riesigen Datenbank von Tweets geschult worden war.
Tay musste bekanntermaßen nach nur 16 Stunden wegen der unaufgeforderten Ausgießung hasserfüllter Tweets abgeschaltet werden. Es scheint, dass das Training einer KI für Online-Kommentatoren - Menschen, die aufgrund ihrer Anonymität oft alle Hemmungen verlieren - keine so gute Idee istschließlich.
Es scheint, dass mehr Arbeit erforderlich ist, bevor DeepCom wirklich zum Engagement anregen oder Kommentare erstellen kann, die dazu dienen könnten, die Gesellschaft in großem Umfang zu stören. Derzeit sind die vom KI-Bot generierten Kommentare kurz und einfach.
Die Forschung wurde jedoch akzeptiert EMNLP-IJCNLP eine internationale Konferenz zur Verarbeitung natürlicher Sprache, die nächsten Monat 3. bis 7. November in Hongkong stattfinden wird.
In der Zwischenzeit waren MIT-Forscher Erstellen eines KI-Werkzeugs GTR Giant Language Model Test Room genannt, der von KI geschriebenen Text erkennen kann. Möglicherweise müssen sie ihr Spiel verbessern.