Sollten wir den Maschinen das Denken überlassen?

(Autor: Dr. Jochen Brems)

Schon als Kind hat mich die Vorstellung fasziniert, dass wir irgendwann Maschinen erfinden könnten, die nicht nur ähnlich intelligent sind wie wir, sondern auch über ein eigenes Bewusstsein verfügen. „Wie sollen wir uns ihnen gegenüber verhalten? Was werden sie denken? Wären sie gefährlich? – Fragen, über die wir bis heute immer wieder nachdenken. Gerne  erinnere ich mich daran, wie ich früher – meistens  am Samstagabend – mit meinen Eltern gemütlich auf der Wohnzimmercouch gesessen habe, um einen Film aus der Reihe „Science Fiction“ zu sehen.  Das fand ich immer aufregend und oft auch ziemlich gruselig. Ein Film, der mir dabei besonders im Gedächtnis geblieben ist, behandelt genau dieses Motiv: 

„2001 Odyssee im Weltraum“ aus dem Jahr 1968. Da tauchte er – zumindest für mich – das erste Mal im Film auf: ein superintelligenter  Computer, dem die Führung über eine Raummission übertragen wird, und der, frei von Moral und weil es die Situation logisch fordert, die gesamte Mannschaft tötet. Er selbst spricht sich später von jeder Schuld frei: „Es ist immer menschliches Versagen“ sagt er zu seinem Konstrukteur. Die unüberlegte Definition des Missionszieles – durch Menschen – hätte  die Katastrophe verursacht.

Mensch versus künstliche Intelligenz

Mittlerweile ist dieses Motiv „Mensch versus künstliche Intelligenz“ tausendfach in Literatur und Film variiert worden.  Und wer kennt sie nicht, die düsteren Visionen der „Terminator-Filme“, die liebenswerten Androiden aus der Star Wars Saga oder den „Commander Data“ von der Enterprise, dessen höchstes Ziel es ist, ein wahrhaftiger Mensch zu sein? Ich zumindest kenne das Allermeiste, so dass mich in den letzten Jahren immer häufiger gefragt habe, ob ein Buch oder Film noch einen neuen Aspekt zu diesem Thema hinzufügen konnte.

Umso überraschter war ich, als ich auf das Buch „Maschinen wie ich“ von Ian McEwan stieß. Der Plot der Story, die bemerkenswerterweise in London des Jahres 1982 spielt, klingt eigentlich eher nach einer Komödie: einem großen Tech-Konzern ist es gelungen, vollkommen lebensechte Roboter herzustellen. So lebensecht, dass sie von uns Menschen nicht zu unterscheiden sind. Sie haben Gefühle, sie sind lernfähig und prägen im Laufe der Zeit – je nach ihren Erfahrungen – einen eigenen Charakter aus.

Bei der Markteinführung sind 22 weibliche (Evas) und 25 männliche Androiden (Adams) erhältlich, natürlich nur zu einem enorm hohen Preis. Tatsächlich ergattert der etwa 30-jährige Charlie, der eigentlich arbeitslos, aber durch eine Erbschaft zu Geld gekommen ist, einen solchen Adam und nimmt ihn in seine Wohnung auf. Die junge Studentin Miranda, mit der Charlie seit kurzem liiert ist, begleitet ihn bei seinem Experiment, eine Beziehung zu Adam aufzubauen und den Alltag mit seinem neuen Bewohner zu gestalten. Während Charlie aber im Laufe der Zeit immer größere Probleme bekommt, mit der „Perfektion“ Adams umzugehen, verzweifelt dieser letztlich an den menschlichen Schwächen. Vor allem schafft er es nicht, die Widersprüchlichkeit, die ihm bei den Menschen täglich begegnet, in ein stabiles Denk- und Handlungsmuster für sich selbst zu übertragen. So stehen sich schließlich Mensch und Maschine fassungslos gegenüber – und ohne Zuviel vorweg nehmen zu wollen: es endet in einer Katastrophe.

Moralische Maschinen oder eiskalte Mörder

Was mich an diesem Roman begeistert hat, ist der Minimalismus, mit dem McEwan es schafft, fundamentale Probleme im Umgang mit künstlicher Intelligenz (KI) zu skizzieren. Es ist kein literarischer „Blockbuster“, wie wir es bei Filmen zu diesem Thema fast schon gewohnt sind, vielmehr sehen wir existenzielle Fragen durch die Lupe einer Kammerspiel-Ästhetik, die uns den ganzen Roman über vollkommen fokussiert lässt.  Die wichtigsten Fragen scheinen mir die zu sein: „Wie denken wir selbst über unsere Unvollkommenheit?, Was können und dürfen wir uns zutrauen? Und schließlich: Was würde passieren, wenn wir unsere ethischen Vorstellungen als moralischen Kompass in eine perfekte und logische Maschine implementieren würden? Dazu ein kleines Beispiel: Heute, im Jahr 2020, ist die eigentliche Technik, um Autos autonom fahren zu lassen, weitgehend entwickelt.  Und die daran beteiligten Forscher sind sich einig: mindestens 90 % der weltweit jährlich ca. 1.000.000 Todesopfer könnten zukünftig durch autonome Fahrzeuge gerettet werden! Was allerdings noch fehlt ist eine Programmierung, die in moralischen Grenzfällen eine zuverlässige Entscheidung treffen soll. Soll mein Fahrzeug das Leben von mehreren anderen schützen, wenn mein eigenes dadurch beendet wird?  Wahrscheinlich würden das die meisten ohne zu zögern unterschreiben – solange sie dieser Situation nicht tatsächlich ausgesetzt sind. Und trotzdem sieht menschliche Realität in der Regel anders aus: Wir formulieren moralische Prinzipien, an die wir uns in Extremsituationen aber nicht halten. Das ist bestimmt ein Fehler, aber eben auch das Gegenteil einer Logik, die den Computer „HAL9000“ aus dem Film „2001“ zum eiskalten Mörder hat werden lassen. 

Menschenfreundliche KI

„Nein, nein“, beschwichtigen führende Experten aus der KI-Forschung, „wir arbeiten an der Entwicklung einer menschenfreundlichen KI“. Und sie meinen damit den Versuch, menschenfreundliche Axiome in die digitalen Gene der KIs zu implementieren. Es geht also um nichts Geringeres, als Handlungsmaxime zu definieren, die möglichst für alle Zukunft gelten sollen.  Spätestens jetzt gruselt es mich tatsächlich. Was hätten wohl die Neandertaler für Maxime definiert? Und was der Klerus im Mittelalter? Halten wir uns tatsächlich reif dafür, die „endgültigen Algorithmen“ zu programmieren? Ich denke, man braucht nur ein bisschen bei McEwan reinzulesen, um zu verstehen, mit welchen grundsätzlichen Fragen wir uns vorher beschäftigen sollten.