Stefan Krempl griff vergangene Woche auf Heise Online den Ruf eines „DeepMind“-Experten von Google nach einem „grossen roten Knopf“ auf, um „schädliche Handlungsstränge“ bei lernenden Agenten wie Robotern zu verhindern. Zitat:
„Laurent Orseau, Forscher der Londoner Google-Tochter DeepMind, macht sich für einen Panik-Knopf für Künstliche Intelligenz (KI) stark. Agenten in Form etwa von Robotern, die durch die Interaktion mit komplexen Umgebungen wie der realen Welt trainiert und auf gewisse Reaktionen eingeschworen würden, ‚verhalten sich höchstwahrscheinlich nicht ständig optimal‘. … Es sei daher nötig, frühzeitig effektive Abwehrverfahren zu entwickeln, beispielsweise eine integrierte Notbremse.“
Weiter zum Beitrag
Verwandte Themen:
Müssen wir künstliche Intelligenz fürchten?
Chancen der Digitalisierung
Künstliche Intelligenz als Hilfsmittel in 2020