Wir haben das Ergebnis neuer Algorithmen mit künstlicher Intelligenz gesehen, die alles tun können, von der Erkennung von Krebs bis hin zum Autofahren.
KI ist die treibende Kraft so vieler neuer Technologien, aber zu welchem Preis?
A neuer Bericht zeigt, dass ein gängiges KI-Trainingsmodell mehr als 626.000 Pfund Kohlendioxidäquivalent ausstoßen kann. Das ist ungefähr das Fünffache der Lebenszeitemissionen eines durchschnittlichen amerikanischen Autos - einschließlich der Herstellung des Autos selbst.
SIEHE AUCH: AIS WIRD WEITER UNVORHERSAGBAR HANDELN, SOLLTEN WIR PANISCH SEIN?
Während einige KI-Forscher die möglichen Umweltauswirkungen ihrer Aktivitäten festgestellt haben, hat die tatsächliche Zahl den Sektor schockiert.
Maschinen die Sprache verständlich machen ist umweltschädlich
Das Papier befasste sich mit dem Prozess der Verarbeitung natürlicher Sprache NLP. Dieses Teilgebiet der KI konzentriert sich auf Rennmaschinen für die Arbeit mit menschlicher Sprache. Die NLP-Entwicklergemeinschaft hat in den letzten Jahren einige faszinierende Durchbrüche erzielt. Die Arbeit von Forschern inDieser Bereich ist verantwortlich für Technologien wie maschinelle Übersetzung und Satzvervollständigung .
Diese Fortschritte sind für eine Reihe von Anwendungen sehr hilfreich. Um dorthin zu gelangen, sind für die Schulung große Datenmengen erforderlich, die aus dem Internet stammen. Die Konvertierung dieser umfangreichen Datensätze aus Unsinn in ein Schulungsprogramm erfordert eine enorme Menge an ComputerleistungErgebnis, eine enorme Menge an Energie.
Stromkosten müssen angegangen werden
Es wurden vier Modelle untersucht, die von den Forschern als für den größten Leistungssprung verantwortlich identifiziert wurden; Transformer, ELMo, BERT und GPT-2.
Um herauszufinden, für wie viel CO2-Emissionen die Modelle verantwortlich waren, trainierten die Forscher zunächst jedes Modell bis zu einem Tag auf einer einzelnen GPU, um den Stromverbrauch zu messen.
Sie verwendeten dann die Anzahl der Trainingsstunden, die in den Originalarbeiten des Modells angegeben sind, um die Gesamtenergie zu berechnen, die der gesamte Trainingsprozess verbrauchen würde.
Diese Zahl wurde dann in Pfund Kohlendioxidäquivalent umgerechnet. Die Ergebnisse zeigen, dass die Rechen- und Umweltkosten für das Training proportional zur Modellgröße gestiegen sind.
Letzte Schritte sind die teuersten
Die Kosten sind gestiegen, als zusätzliches Training hinzugefügt wurde, um die Genauigkeit des Modells zu erhöhen.
Ein Optimierungsprozess, der als "neuronale Architektur" bezeichnet wird und ein Trial-and-Error-Modell verwendet, um ein Modell durch Optimierung des Netzwerkdesigns zu optimieren, verfügt über große Cots für einen geringen Gesamtgewinn.
Durch Entfernen dieses letzten Schritts hatte das teuerste Modell, BERT, einen viel bescheideneren CO2-Fußabdruck von etwa 1.400 Pfund Kohlendioxid. Dies entspricht fast einem Hin- und Rückflug nach Amerika für eine Person.
Schlimmer ist, dass die Forscher sagen, dass dies bescheidene Zahlen sind, die auf dem Training eines Modells auf das minimalste Niveau basieren. Und dass die meisten großen Trainingsprogramme tatsächlich einen viel größeren Fußabdruck haben, wenn sie Teile des aufsteigenden Programms von Grund auf neu entwickeln.
Die Auswirkungen dieser Zahlen sind enorm.
KI treibt alles von der medizinischen Forschung bis zur Verteidigung voran. Die Autoren des Papiers äußern ihre Besorgnis über die Verlagerung der KI-Entwicklung von der Wissenschaft in die private Welt. Die Kosten für die KI-Entwicklung sind, wie aus diesem Papier hervorgeht, so hoch, dassBildungseinrichtungen können nicht mithalten.
Das Verfolgen und Überwachen der Entwicklung der KI kann immer schwieriger werden.