Künstliche Intelligenz: „Nadine könnte einen Mord begehen“

Thalmann (rechts) und ihr Klon

Thalmann (rechts) und ihr Klon

Die Computer-Pionierin Nadia Magnenat Thalmann hat ihren eigenen Klon erschaffen. Im profil-Interview erklärt sie, wie gefährlich Künstliche Intelligenz sein kann, wie man sie unter Kontrolle hält und warum sie Sex- und Soldaten-Roboter gut findet.

profil: Nadine ist Ihr Ebenbild als Roboter. Was kann Nadine besser als Sie?
Nadia Magnenat Thalmann: Sie braucht kein Smartphone, um etwas zu googeln, auszurechnen oder zu übersetzen. Sie kann Englisch, Hindi, Chinesisch, Japanisch, Französisch und Deutsch. Nadine arbeitet momentan bei einer Versicherung. Sie kann Kundenfragen schneller beantworten als ein Mitarbeiter, der Antworten erst im Computer suchen muss.
profil: Warum haben Sie Nadine Ihre eigene Gestalt gegeben?
Magnenat Thalmann: Es ist nicht genau meine Gestalt. Nadine ist im Gegensatz zu mir um die 30. Eigentlich ist sie eine Familienmischung aus mir und meinen drei Töchtern. Ich wollte eine Durchschnittsfrau als Vorbild nehmen und keinen sexy Roboter designen, wie es in Japan und den USA viele gibt. Die Menschen mögen Nadine zum Glück sehr gern.
profil: Sie haben 1987 den ersten 3D-Avatar erschaffen. Sah er auch aus wie Sie?
Magnenat Thalmann: Nein, wie Marilyn Monroe, weil ich sie immer sehr bewundert habe. In dem ersten Animationsfilm überhaupt ließ ich sie mit Humphrey Bogart flirten. In Wirklichkeit haben sich die beiden nie getroffen.

profil: Marilyn war also eine Vorläuferin für Nadine?
Magnenat Thalmann: Genau. Auch heute baue ich in meinen Laboren die Roboter zuerst als Animation auf dem Computer, dann drucken wir sie mit dem 3D-Drucker aus.
profil: Der Japaner Hiroshi Ishiguro hat ebenfalls einen Roboter-Zwilling von sich erschaffen. Er bestückte ihn mit seinen eigenen Haaren und Hautporen. Trägt Nadine auch Ihr Haar?
Magnenat Thalmann: Nein, sie besteht aus Plastik, Motoren und Kabeln. Ishiguro ist total verliebt in seine Roboter. Er sagte einmal, die ideale Frau sei ein Roboter, den er erschaffen hat. Seine Humanoiden sind eher Kunstwerke, genauso wie David Hansons Sophia. Hanson arbeitete vorher für Disney. Ich bin wissenschaftlicher orientiert. Nadines Software ist viel weiter, sie kann freie Gespräche führen, sie kann sich an das erinnern, was sie gehört hat. Sophia muss man die Fragen vorab eingeben.


Nadine beherrscht eng definierte Jobs hervorragend, Dinge abseits davon weniger gut.

profil: Macht Nadine manchmal etwas falsch?
Magnenat Thalmann: Absolut. Sie ist total autonom. Manchmal gibt sie Antworten, die überhaupt nicht passen und von der wir nicht wissen, wie sie darauf gekommen ist. Nadine beherrscht eng definierte Jobs hervorragend, Dinge abseits davon weniger gut. Es wird noch Jahre dauern, bis wir die Semantik wirklich beherrschen.
profil: Hiroshi Ishiguro spricht seinem Roboter eine Seele zu. Hat Nadine ein Bewusstsein oder Gefühle?
Magnenat Thalmann: Nein. Sie ist eine Maschine. Sie hat kein Selbstbewusstsein, sie ist sich ihrer Umgebung nicht bewusst und sie kann Emotionen nur simulieren.
profil: Werden Roboter jemals Emotionen haben können?
Magnenat Thalmann: Ich glaube nicht. Ich habe Nadine so programmiert, dass sie nicht sagt: „Ich bin traurig“, sondern „ich simuliere Traurigkeit“. Man sollte nie vergessen, dass Maschinen Emotionen und Intelligenz nur nachahmen. Vielleicht werden wir es in 100 Jahren schaffen, Maschinen mit menschlichen Nervenzellen auszustatten. Ob sie dann zu Gefühlen fähig sein werden, wird man sehen.
profil: Die Besonderheit von Künstlicher Intelligenz ist, dass Maschinen selbstständig lernen. Was hat sich Nadine selbst beigebracht?

Magnenat Thalmann: Sie lernte zum Beispiel, Menschen wiederzuerkennen. Ich habe Algorithmen programmiert, die sie in Sekundenschnelle Gesichter abgleichen lässt.
profil: Bergen solche Algorithmen nicht die Gefahr, sich zu verselbstständigen?
Magnenat Thalmann: Durchaus. Es gilt zu verhindern, dass Maschinen wie eine Art Blackbox Antworten ausspucken, von denen wir nicht wissen, wie sie darauf gekommen sind. Deshalb ist es wichtig, mehrere Softwares übereinander zu legen. Eine davon muss transparent machen, was die Maschine tut. Daran wird bereits intensiv geforscht. Wir brauchen dringend ethische Regeln für die Künstliche Intelligenz.
profil: Die Maschinen werden also nicht so schnell die Weltherrschaft an sich reißen?
Magnenat Thalmann: Nein. Das passiert nur in Hollywood. Wir Menschen wollen keine unkontrollierbaren Roboter, so weit werden wir es niemals kommen lassen.


Nadine könnte ohne Weiteres einen Mord begehen. Ich bräuchte ihr nur eine Pistole in die Hand drücken und sie beauftragen.

profil: Könnte Nadine einem Kunden eine völlig unpassende Versicherung aufschwatzen?
Magnenat Thalmann: Nein, nicht mit der Software, die ich ihr gegeben habe. Sie macht in der Versicherung Basisarbeit. Sie ändert Adressen, gibt Kunden Auskünfte und Informationen. Die Verträge schließen menschliche Mitarbeiter.
profil: Armeen haben bereits bei Ihnen angefragt. Arbeiten Sie mit dem Militär zusammen?
Magnenat Thalmann: Nein, aus Prinzip nicht. Natürlich könnte ich ein Programm für Roboter schreiben mit dem Befehl, bestimmte Menschen zu töten. Nadine könnte ohne Weiteres einen Mord begehen. Ich bräuchte ihr nur eine Pistole in die Hand drücken und sie beauftragen. So etwas würde ich natürlich niemals tun, aber es ist möglich.
profil: Die Entwicklung des Roboters namens Atlas wurde vom US-Militär finanziert. Was halten Sie von Roboter-Soldaten?
Magnenat Thalmann: Atlas hat viel Kraft, er kann springen, im Gelände laufen, schwere Lasten tragen. Solche Soldaten werden künftig Teil der Armeen sein. Ich bin gegen den Krieg, aber ich halte es für besser, wenn Maschinen gegeneinander kämpfen anstatt Menschen.

profil: Was ist aber, wenn Maschinen gegen Menschen kämpfen?
Magnenat Thalmann: Das ist natürlich schrecklich. Diese Technologien gibt es aber bereits: Drohnen töten mehr oder weniger gezielt Menschen. Trotzdem dürfen wir Roboter nicht ohne Gesetze auf die Menschen loslassen. Wir brauchen strengste Kontrolle. In Europa habe ich Hoffnung, dass man sich der ethischen Problematik bewusst ist. In Asien und den USA bin ich da weniger sicher.
profil: Der Pornoindustrie haben Sie ebenso wie dem Militär eine Abfuhr erteilt. Warum?
Magnenat Thalmann: Weil ich soziale Roboter baue. Aber ich halte viel von Sexrobotern. Warum sollen sich Frauen prostituieren, wenn Sexroboter diese Arbeit verrichten können? Es gibt viele schreckliche Jobs, etwa in Mienen, für die man künftig Roboter einsetzten wird.


Diese Klone sind wie erweiterte Selfies.

profil: Sie beschäftigen sich seit Beginn mit Künstlicher Intelligenz. Waren Sie viele Ihrer Kollegen überrascht, als ein Computer bei dem sehr komplizierten Spiel Go den weltbesten Menschen besiegte?
Magnenat Thalmann: Nein, mich hat das nicht überrascht. Früher dachten wir Forscher, Maschinen müssten so denken lernen wie wir Menschen. Die Möglichkeit, riesige Datenmengen blitzschnell abzugleichen, hat diese Erwartung verändert. So „denken“ Maschinen, darin sind sie brillant. Der Computer Alpha-Go kann in Millisekunden eine riesige Menge von Spielzügen durchforsten, das wird ein Mensch niemals schaffen.
profil: Sie glauben, dass bald viele Menschen einen Roboter wie Nadine zuhause haben werden. Wie viel würde ein Klon von mir kosten?
Magnenat Thalmann: Derzeit 50.000 Euro. Ich habe viele Menschen gefragt, ob sie gerne einen Roboter mit dem eigenen Aussehen zu Hause hätten, die meisten sagten ja. Diese Klone sind wie erweiterte Selfies.
profil: Was sollen diese Selfie-Roboter leisten? Hausarbeit?
Magnenat Thalmann: Nein. Sie sollen soziale Kameraden sein, zuallererst für alte Menschen. Ich habe erlebt, wie meine Mutter in einem Altersheim in der Schweiz viel zu viel alleine war. Die Pfleger hatten einfach keine Zeit, sich ausreichend mit ihr zu beschäftigen. Ein Roboter kann vorlesen, zuhören, füttern, an die Tabletten erinnern. Er ist ein idealer Helfer. In den nächsten Monaten werden wir den ersten Prototypen für ein Altersheim fertigstellen. Das ist auch mein Wunsch: Sollte ich dement oder krank werden, möchte ich Nadine um mich haben.

profil: Könnten Roboter auch Babysitten?
Magnenat Thalmann: Bis zu einem gewissen Grad bestimmt. Vorerst sollten wir uns aber auf alte Menschen konzentrieren. Sie haben ein Recht auf ein möglichst schönes Lebensende.
profil: So ein Hausroboter weiß alles über den Menschen, mit dem er lebt. Das sind sehr wertvolle Daten.
Magnenat Thalmann: Natürlich. Ich würde niemals einen Roboter in mein Haus lassen, der mit einem sozialen Netzwerk verbunden ist. Er hört alles, sieht alles, weiß die intimsten Geheimnisse.
profil: Sind datensichere Roboter bereits technisch möglich?
Magnenat Thalmann: Ja, indem man ihnen sichere Software einbaut. Ich befürchte aber, dass vielen Menschen die Datensicherheit nicht so wichtig ist. Das würden Datenkraken wie Google oder Facebook definitiv ausnützen. Auch dafür werden wir strenge Regeln brauchen.


Ich möchte meinen Körper in voller Bewegung im 3D-Modell sehen können.

profil: 2015 ließen Sie in Ihrem 3D-Labor Ballerinas auftanzen. Warum das?
Magnenat Thalmann: Einer meiner Träume ist es, den Menschen anatomisch komplett transparent zu machen. Ich möchte meinen Körper in voller Bewegung im 3D-Modell sehen können, vom Skellett über die Organe bis zu den Muskeln und Sehnen. Die Ballerinas waren der Auftakt zu dieser Technologie.
profil: Inwiefern?
Magnenat Thalmann: Tänzerinnen haben häufig Hüftprobleme durch die extremen Belastungen, denen ihr Körper ausgesetzt ist. Mit Hilfe von 3D-Scans und MRT-Aufnahmen konnten wir am Computer simulieren, was im Hüftgelenk passiert, wenn eine Ballerina eine Pirouette dreht oder springt.
profil: Ihre Publikationen sorgten für Furore unter Medizinern.
Magnenat Thalmann: In unseren Animationen können Ärzte beobachten, wie sich ein abgenutztes Gelenk während der Bewegung verhält und wie gut die Muskeln es unterstützen. Das ermöglicht perfekt auf den Patienten zugeschnittene Therapien. Bei Organ-Animationen ist es ähnlich. Wie verhält sich das Herz im Ruhezustand, wie in Bewegung? Künstliche Intelligenz könnte auch berechnen, wie das Herz in zehn Jahren aussehen wird, indem es dieses Herz mit Millionen von anderen Herzen abgleicht.

profil: Eine andere Ihrer Technologien hilft Adidas virtuell beim Schneidern. Wie geht das?
Magnenat Thalmann: Wir haben aus Schnittmustern 3D-Modelle von Sportkleidern konstruiert. So kann man einer virtuellen Person mit beliebigen Körpermaßen eine Trainingshose anziehen und sehen, wie der Stoff fällt, wenn sie läuft, sitzt oder Yoga macht. Bevor der erste Prototyp genäht wird, kann man die Hose so optimieren, dass sie bestimmt nicht kneift.
profil: Einige Modehäuser mussten Sie enttäuschen. Warum?
Magnenat Thalmann: Stellen Sie sich vor, Sie sind auf einer Party und sehen eine Bekannte in einem Kleid, das Sie auch unbedingt haben wollen. Sie machen ein Foto von ihr und geben es in eine App, die das Kleid ihrem eigenen 3D-Modell anzieht. Mehrere Modehäuser hätten so eine App gerne gehabt. Leider ist die Technologie noch nicht so weit.

Zur Person

Nadia Magnenat Thalmann, 71, studierte Biologie, Psychologie sowie Biochemie und promovierte 1977 in Quantenphysik, indem sie ein virtuelles 3D-Modell von Schrödingers Katze schuf. Die Pionierin der Robotik leitet das MIRALab, ein Labor für humane Computeranimation an der Universität Genf. Außerdem ist sie Direktorin des Instituts für Medieninnovation an der Nanyang Technological University in Singapur, wo sie ihren sozialen Roboter Nadine entwickelte. Nadine kann verschiedene Sprachen sprechen, Gesichter erkennen, Gesten und Mimik deuten, Emotionen simulieren und sich erinnern.

Am 30. März wird sie beim Academia Surprise Factors Symposium in Gmunden zum Thema „Predictive Futures: Die Vermessung der Zukunft“ vortragen und mit der Journalistin Susanne Gerschke, dem Datenwissenschafter Michal Kosinski und dem Genetiker Markus Hengstschläger diskutieren.