Stellen Sie sich vor, Sie sind wieder in der Schule und sehen, wie Ihre Klasse von F nach A + springt, nachdem Sie während eines Online-Tests eine Auswahl bestimmter Wörter in ein Feld eingegeben haben. Diese Wörter haben keine zusammenhängende Struktur und bilden auch keinen Satz. Sie würden es denkenwar Wahnsinn!
Nachdem jedoch festgestellt wurde, dass ihre Online-Tests von KI-Algorithmen bewertet wurden, fanden einige Studenten in den USA einen Weg, das System auszutricksen und von niedrigen zu Top-Noten zu wechseln.
The Verge war der erste, der über die Geschichte berichtete.
SIEHE AUCH: ETHIK DER KI: VORTEILE UND RISIKEN VON KÜNSTLICHEN INTELLIGENZSYSTEMEN
Ein besorgter Elternteil, Dana Simmons, beobachtete, wie ihr Kind Lazare einen Online-Test durchführte, als schnell feststellte, dass ein KI-Algorithmus ihn benotete. der Rand . Die Note wurde vergeben, sobald Lazare seinen Test eingereicht hatte, was kein Mensch tun konnte.
Nachdem Simmons die richtigen Antworten gelesen hatte, stellte er fest, dass Edgenuity Das automatische Online-Bewertungssystem durchsuchte die Antworten der Schüler nach Stichwörtern. Wenn diese nicht angezeigt wurden, war die Note niedrig, aber wenn sie vorhanden waren unabhängig davon, ob sie in vollständigen Sätzen geschrieben wurden.war die Note hoch.
Simmons und Lazare haben einen Weg gefunden, das System auszutricksen. Um eine Frage zu beantworten, schreibt Lazare jetzt zwei reguläre Sätze, gefolgt von einer Reihe potenziell relevanter Schlüsselwörter. Wie Lazare erklärt hat der Rand er schreibt normalerweise Wörter, die in der Frage geschrieben oder im Video der Frage erwähnt sind.
Algorithmus-Update. Er hat es geknackt: Zwei vollständige Sätze, gefolgt von einem Wortsalat aller möglicherweise zutreffenden Schlüsselwörter. 100% bei jeder Aufgabe. Schüler bei @EdgenuityInc da ist dein Ticket. Er ist von einem F zu einem A + gewechselt, ohne etwas zu lernen.
- Dana Simmons @DanaJSimmons 2. September 2020
Lazare ist nur einer von vielen Schülern, die diese Methode herausgefunden haben.
Angesichts der Anzahl der Online-Kurse und Tests findet momentan online statt, diese Art von AI-Algorithmus kann Anlass zur Sorge geben. Die Schüler müssen nicht mehr für ihre Tests lernen, solange sie einen Weg finden, das KI-System mithilfe von Schlüsselwörtern auszutricksen.
Eine andere Sichtweise wäre vielleicht zu sagen, dass dies gutes Lernen und Üben für die Zukunft sein könnte, da Kinder in Zukunft gut aufgestellt sein werden, wenn sie Computersysteme bereits in jungen Jahren gut verstehen.