Du bist hier: Home » AI / künstliche Intelligenz » Künstliche Intelligenz braucht einen Notschalter, fordert ein Google-Forscher (via Heise Online)

Künstliche Intelligenz braucht einen Notschalter, fordert ein Google-Forscher (via Heise Online)

Stefan Krempl griff vergangene Woche auf Heise Online den Ruf eines „DeepMind“-Experten von Google nach einem „grossen roten Knopf“ auf, um „schädliche Handlungsstränge“ bei lernenden Agenten wie Robotern zu verhindern. Zitat:

toy robot„Laurent Orseau, Forscher der Londoner Google-Tochter DeepMind, macht sich für einen Panik-Knopf für Künstliche Intelligenz (KI) stark. Agenten in Form etwa von Robotern, die durch die Interaktion mit komplexen Umgebungen wie der realen Welt trainiert und auf gewisse Reaktionen eingeschworen würden, ‚verhalten sich höchstwahrscheinlich nicht ständig optimal‘. … Es sei daher nötig, frühzeitig effektive Abwehrverfahren zu entwickeln, beispielsweise eine integrierte Notbremse.“

Weiter zum Beitrag

Verwandte Themen:

Müssen wir künstliche Intelligenz fürchten?

Chancen der Digitalisierung

Künstliche Intelligenz als Hilfsmittel in 2020

 

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.