Eine Person in Schutzanzügen. Andrey Shalari/iStock
In der heutigen Gesellschaft, künstliche Intelligenz AI wird meistens für das Gute verwendet.Aber was wäre, wenn es nicht so wäre?
Dies ist die Frage der Forscher von Kooperationen Pharma fragten sich, als sie Experimente mit einer KI durchführten, die dafür gebaut wurde Suche nach hilfreichen Medikamenten.
Sie haben diese KI daher optimiert, um nach chemischen Waffen zu suchen, und beeindruckend genug fand der maschinelle Lernalgorithmus 40.000 Optionen in nur sechs Stunden, laut einer Zeitung veröffentlicht diesen Monat in der Zeitschrift Intelligenz der Naturmaschine.
Naives Denken
"Der Gedanke war uns vorher noch nie gekommen. Wir waren uns vage der Sicherheitsbedenken im Zusammenhang mit der Arbeit mit Krankheitserregern oder giftigen Chemikalien bewusst, aber das betraf uns nicht; wir arbeiten hauptsächlich in einer virtuellen Umgebung. Unsere Arbeit wurzelt im Aufbau von maschinellem LernenModelle für therapeutische und toxische Targets, um das Design neuer Moleküle für die Wirkstoffforschung besser zu unterstützen", schreiben die Forscher in ihrer Veröffentlichung.
"Wir haben Jahrzehnte damit verbracht, Computer und KI einzusetzen, um die menschliche Gesundheit zu verbessern – nicht, um sie zu verschlechtern. Wir waren naiv, wenn wir über den möglichen Missbrauch unseres Handwerks nachdachten, da unser Ziel immer darin bestand, molekulare Merkmale zu vermeiden, die die vielen beeinträchtigen könntenverschiedene Klassen von Proteinen, die für das menschliche Leben unerlässlich sind."
Die Forscher sagten, dass selbst ihre Arbeit zu Ebola und Neurotoxinen, die Bedenken hinsichtlich der möglichen negativen Auswirkungen ihrer maschinellen Lernmodelle hätten aufwerfen können, ihre Alarmglocken nicht zum Klingen gebracht habe. Sie waren sich des Schadens, den sie anrichten könnten, glücklicherweise nicht bewusst.
Wie hat ihr Experiment funktioniert?
Collaborations Pharmaceuticals hatte computergestützte maschinelle Lernmodelle zur Toxizitätsvorhersage veröffentlicht. Alles, was die Forscher tun mussten, war, ihre Methodik anzupassen, um Toxizität zu suchen, anstatt sie auszusortieren, und was sie bekamen, war eine Gedankenübung, die sich zu einem rechnerischen Machbarkeitsnachweis für entwickelteHerstellung biochemischer Waffen.
Das Experiment ist ein klarer Hinweis darauf, warum wir KI-Modelle überwachen Genauer und wirklich über die Konsequenzen unserer Arbeit nachdenken.
Zusammenfassung:
Das Eidgenössische Institut für nuklearen, biologischen und chemischen ABC-Schutz — Labor Spiez — beruft die von der Schweizer Regierung ins Leben gerufene Konferenzreihe „Konvergenz“ ein, um Entwicklungen in Chemie, Biologie und Schlüsseltechnologien zu identifizieren, die Auswirkungen auf die Chemikalie haben könntenDie alle zwei Jahre stattfindenden Konferenzen bringen eine internationale Gruppe von Wissenschafts- und Abrüstungsexperten zusammen, um den aktuellen Stand der Technik auf dem Gebiet der Chemie und Biologie und ihre Entwicklungen zu untersuchen, mögliche Auswirkungen auf die Sicherheit zu durchdenken und zu überlegen, wiediese Implikationen können international am effektivsten bewältigt werden.Das Treffen tagt für drei Tage zur Diskussion über mögliche Schäden durch chemische und biologische Spitzentechnologien, falls dies beabsichtigt sein sollte.Unser Arzneimittelforschungsunternehmen erhielt eine Einladung, einen Beitrag zu leistenwie KI-Technologien für die Wirkstoffforschung möglicherweise missbraucht werden könntenD.