Cyberama: Notbremse für Roboter
Wissenschaft

Cyberama: Notbremse für Roboter

Warum wir die Kontrolle über künstliche Systeme behalten müssen.

Wie stoppt man wild gewordene Roboter? Der Google- Forscher Laurent Orseau hat jetzt eine Art Notschalter für "Künstliche Intelligenz" (KI) vorgeschlagen; damit sollen Menschen autonome Systeme jederzeit abschalten können, wenn diese aus dem Ruder laufen. Das ist gar nicht so einfach, wie Orseaus komplizierter Fachartikel zeigt. Denn selbstlernende Systeme, die sich an komplexe Umgebungen anpassen, können im Prinzip auch lernen, ihre eigene Abschaltung zu verhindern. Der Physiker Stephen Hawking und der Unternehmer Elon Musk warnten erst kürzlich vor den Gefahren der KI für die Menschheit. Dabei muss man nicht gleich an Science-Fiction-Szenarien denken, etwa bösartige Roboter, die ihre eigenen Entwickler umbringen, um die Weltherrschaft an sich zu reißen.


Es braucht menschliche Aufsicht, um notfalls einzugreifen.

Es reicht schon, sich die Gefahren durch selbstlenkende Autos vorzustellen. Und tatsächlich sind bereits Menschen durch außer Kontrolle geratene Industrieroboter ums Leben gekommen. Notschalter gibt es heute in vielen Bereichen, von Zügen bis zu Fabrikshallen, und aus guten Gründen. Keine Technik funktioniert immer perfekt, stets braucht es menschliche Aufsicht, um im Notfall einzugreifen. Dabei setzte man bislang voraus, dass Menschen eine Situation im Zweifel besser beurteilen können als eine Maschine. Das muss allerdings nicht so bleiben. KI-Systeme könnten eines Tages besser wissen, was in einem bestimmten Fall zu tun ist -und dann könnte es ein Fehler sein, wenn Menschen sie abschalten. Dennoch spricht vieles für einen Notknopf. Denn nur Menschen können für ihre Handlungen Verantwortung übernehmen. Aus diesem Grund müssen sie auch in der Lage sein, eine "Künstliche Intelligenz" jederzeit abzuschalten, auch wenn sich das am Ende als die falsche Entscheidung herausstellt. Wie denken Sie darüber? Bitte schreiben Sie mir unter

thomas.vasek@profil.at
Kommentar verfassen