Im Rahmen unserer Websites setzen wir Cookies ein. Informationen zu den Cookies und wie Ihr der Verwendung von Cookies jederzeit widersprechen bzw. deren Nutzung beenden könnt, findet Ihr in unserer Datenschutzerklärung.

Würdet Ihr für einen Roboter ein Menschenleben riskieren?

Würdet Ihr für einen Roboter ein Menschenleben riskieren?

Die Beantwortung der Frage scheint ein Leichtes zu sein: Niemand, außer hartgesottene Menschenfeinde, würde das Leben oder Wohlergehen von Menschen riskieren, um einen Roboter zu retten. Eine neue Studie behauptet das Gegenteil und besagt, dass sogar viele den Roboter retten würden - unter einer wichtigen Voraussetzung.

Einer der wünschenswertesten Einsatzgebiete der Automatisierung ist der Einsatz von Robotern mit künstlicher Intelligenz für gefährliche Aufgaben, bei denen es ein erhöhtes Verletzungs- oder Todesrisiko für Menschen gibt - zum Beispiel das Entschärfen von Landminen, Unterwasserrettung, Bergbau, Industriearbeiten bei extremen Temperaturen oder anderen gefährlichen Umgebungen. Der "nicht lebendige" Roboter kann das Risiko eingehen, und im schlimmsten Fall geht nur eine Maschine und kein kostbares Menschenleben verloren.

Die Zyniker unter Euch denken jetzt vielleicht schon daran, dass die Besitzer eines ausreichend teuren Roboters vielleicht sogar eher das Leben eines "unterprivilegierten" Menschen gefährden würden, aber darüber sprechen wir hier heute nicht.

Was macht einen Roboter aus?

Mit einer jetzt veröffentlichten Studie, unter der Leitung von Sari Nijssen von der Radboud University in Nijmegen (Niederlande) und Markus Paulus, Professor für Entwicklungspsychologie an der Ludwig-Maximilian-Universität (LMU) in München, sollte herausgefunden werden, inwieweit sich Menschen um Roboter kümmern und welche Stellung die Maschinen bei unserer moralischen Einschätzung einnehmen.

Die in der Zeitschrift Social Cognition veröffentlichte Studie stellt die Frage: "Unter welchen Umständen und in welchem Ausmaß wären Erwachsene bereit, Roboter zu opfern, um Menschenleben zu retten"?

Teil der Studie war es, die Teilnehmer vor ein hypothetisches moralisches Dilemma zu stellen, basierend auf dem klassischen Trolley-Problem, das auch in der Forschung rund um selbstfahrende Autos genutzt wird: Wäre man bereit ein einzelnes Menschenleben zu opfern, um mehrere Menschenleben zu retten?

In den vorgestellten Szenarien war das beabsichtigte Opfer entweder ein Mensch, ein humanoider Roboter mit einer anthropomorphen Physiognomie, die in verschiedenen Graden dem Menschen nachempfunden ist, oder ein nicht-humanoider Roboter, der offensichtlich eine Maschine ist.

Wie einfach ist es, einem Roboter Emotionen zu vermitteln? In Star Trek, reicht ein einfacher Chip:

Die Ergebnisse zeigten eine durchaus vorhersehbare Tendenz, die aber noch stärker war, als ich es erwartet hatte: Je ähnlicher der Roboter dem Menschen war, desto geringer war die Wahrscheinlichkeit, dass die Teilnehmer ihn opferten. Das ergibt Sinn, denn wir werden wohl eher einen Roboter als wertvoll erachten, wenn er in etwa so wie Star Treks Data, Andrew aus Der 200 Jahre Mann oder wie die Replikanten aus Blade Runner aussieht. Anders verhält es sich, wenn der Roboter wie ein Toaster oder Lautsprecher aussieht, egal wie intelligent er ist.

Einige Szenarien bedienten sich des sogenannten Priming-Konzepts und erzählten Geschichten von Robotern, in denen sie wie ein Mensch mit eigenen Gedanken, Gefühlen, Wahrnehmungen und Erfahrungen dargestellt wurden. In diesen Fällen waren die Teilnehmer eher geneigt, für sie unbekannte Menschen zu gefährden, als dem "lieb gewonnen" Roboter zu schaden. Viele Probanden waren sogar bereit, verletzte Menschen zu opfern, um den Roboter zu schonen. Und das, obwohl die Gedanken und Gefühle der beteiligten Menschen skizziert wurden.

Studienleiter Markus Paulus sagt dazu: "Dieses Ergebnis zeigt, dass unsere Studiengruppe dem Roboter einen gewissen moralischen Status zugeschrieben hat. Eine mögliche Folge dieser Erkenntnis ist, dass Versuche, Roboter menschenähnlicher zu gestalten, nicht zu weit gehen sollten. Solche Bemühungen könnten im Widerspruch zu deren beabsichtigter Funktion stehen: uns helfen."

Empathie ist der Schlüssel, aber auch eine Gefahr

Die Entwicklung der Künstlichen Intelligenz führt nicht unbedingt zu Robotern mit Bewusstsein, wie wir es definieren. Wie ich bereits in einem anderen Artikel genauer aufgeschlüsselt habe, denken selbst die anspruchsvollsten KIs nicht so viel nach, wie es unser organisches Gehirn macht.

Aber bei der KI geht es auch nicht so sehr darum, eine Maschine zu bauen, die denkt und sich anfühlt wie ein Mensch, sondern mehr eine, bei der es so scheint. Und wenn die KI immer mehr Fähigkeiten beherrscht, müssen wir mit der Verwendung des Begriffs "Intelligenz" vorsichtiger umgehen, damit wir nicht Gefahr laufen, die Roboter zu sehr zu vermenschlichen.

Die Idee, einen künstlichen Menschen zu erschaffen, ist wohl ein alter Traum unserer Spezies: Vom Mythos und den Legenden bis hin zu zeitgenössischen Science-Fiction-Filmen mit Androiden-Protagonisten und deren Emotionen. Die Flut an virtuellem Wesen umfasst nicht nur die VR- oder holografische Darstellung, sondern auch scheinbar menschlich aussehende Androiden im physischen Raum.

Das Problem mit humanoiden Robotern: Obwohl es keine Beweise dafür gibt, dass die KI Bewusstsein, Emotionen oder etwas ähnliches haben kann, kann sie ziemlich überzeugend wirken, besonders für den Laien. Zum Beispiel durch die natürlichen Sprachverarbeitung. Die Fortschritte beim NLP bedeuten, dass wir immer öfter mit Maschinen sprechen werden. Und diese werden uns auf natürlich klingende Weise antworten.

Wahrscheinlich mit Emotionen, die zeigen, dass sich die KI an unsere vergangenen Interaktionen "erinnert" und ihrerseits Emotionen in unserer Stimme aufgreifen und entsprechend reagieren kann. Schließlich hat sie Zugriff auf eine riesige Menge an Video- und Audiodaten, aus denen sie unsere Eigenheiten lernen kann.

Eine menschlich anmutende KI ist natürlich attraktiv, immerhin will man dann ja doch nicht mit einer Maschine sprechen. Außerdem löst es ein Gefühl des Staunens aus, ein solches technologisches Wunder überhaupt zu sehen, und aktiviert unser natürliches Mitgefühl. In einer Zukunft, in der Roboter unsere Butler, Ärzte, Pflegekräfte und Therapeuten sein könnten, könnte das natürlich auch ein Gewinn sein.

Es bleibt natürlich das Problem, dass es sich hier um eine Art emotionale Manipulation durch etwas handelt, das unser Mitgefühl nie wirklich erwidern kann. Und solche KIs handeln nicht unbedingt unvoreingenommen: Ihr Verhalten speist sich aus Trainingsdaten, die auch von Unternehmen oder Regierungen stammen, die ein eigenes Interesse verfolgen. Der KI-Butler der Zukunft könnte beispielsweise von Amazon stammen, der uns unterbewusst dazu bringen möchte, Produkte von Amazon und nicht von Konkurrenten zu kaufen.

Eine KI zu schaffen, die menschlich ist oder wirkt, scheint aktuell ein lobenswertes Ziel zu sein und vielleicht ist es auch ein urzeitliches Bedürfnis, so etwas zu erschaffen. Doch wie die Studie erneut zeigt, birgt es auch Gefahren. Sobald wir bereit sind, uns unbekannte Menschen für das Leben eines "befreundeten" Roboters zu opfern, müssen die Alarmglocken läuten. Es gilt den Unterschied zwischen Realität und Illusion zu beachten, auch wenn mit viel Marketing-Hype versucht wird, die Grenzen verschwimmen zu lassen. 

Was haltet Ihr von humanoiden KIs? Sollte es wirklich unser Ziel sein, Roboter irgendwann wie Menschen aussehen zu lassen?

Empfohlene Artikel

Top-Kommentare der Community

37 Kommentare

Neuen Kommentar schreiben:
Alle Änderungen werden gespeichert. Änderungen werden nicht gespeichert!
Neuen Kommentar schreiben:
Alle Änderungen werden gespeichert. Änderungen werden nicht gespeichert!

  • Schaut man sich so um und beobachtet mal wie leichtsinnig und unaufmerksam viele rumlaufen mit Kopfhörern und Blick auf das Smartphone statt nach vorn,....ja die meisten sind bereit ihr Leben zu opfern nur um ihre Aufmerksamkeit dem Smartphone zu geben.


  • Am Ende geht's doch einfach darum, wozu wir eine emotionelle Verbindung aufbauen. Wenn eine Maschine sich "menschenähnlich" darstellt (z.B. durch entsprechendes Aussehen und simuliertes "menschliches" Verhalten) und uns im Alltag eventuell auch noch hilfreich begegnet, dann kann ein Mensch auch zu dieser eine emotionelle Verbindung aufbauen. Klappt auch wenn's nicht menschenähnlich ist: Der Deutsche und sein heissgeliebtes Auto, da gibt es sicher auch Leute die Menschenleben im Straßenverkehr gefährden würden, um einen Kratzer oder eine Beule zu vermeiden. Mit Haustieren ähnlich - und auch da geht's mit um die "Darstellung" des Tieres und dessen "persönliche Nähe" zu uns, um eine Katze wird im Schnitt vermutlich mehr getrauert als um einen Zierfisch.

    Ein fremder Mensch - im Extremfall noch einer, der weit weg entfernt lebt, und mit dem wir nichts zu tun haben, von dem wir überhaupt nichts mitbekommen - hingegen ist zwar ein Mensch wie wir, eine persönliche emotionelle Bindung zu ihm haben wir jedoch nicht (wäre bei der Gesamtzahl der Menschen auf der Erde vermutlich auch etwas überfordernd für uns ;)). Und auch hier kommt es dann wieder darauf an, wie viel wir über ihn erfahren, und wie "nahe" (räumlich, von der Informationsmenge, kulturell, ...) die Sache für uns ist - tausende Tote in irgendeinem Krisengebiet in Afrika, von dem wir bislang noch nie gehört haben? Wenn wir denn überhaupt davon erfahren, dann Schulterzucken. Ein Toter beim Autounfall eine Straße weiter? Oh nein, wie schrecklich. Wenn wir ein Foto sehen - ist es ein verängstigtes Kind? Ein grimmig dreinblickender Mann? Eine verzweifelt blickende Frau? Alles Menschen, aber alle mit unterschiedlich starker emotioneller Reaktion bei uns.


  • Oder Angie und Roboter !


  • Also wenn man den Menschen nicht vorzieht, war man noch nie in einer Situation wo es um das Leben eines anderen ging und hat keine Ahnung was der Wert eines Lebens ist oder ist eine besondere Sorte Mensch mit der man nicht wirklich anstreifen will... Kommentare gibt es unglaublich.
    Der Mensch geht ganz klar vor, ein Leben kann man nicht ersetzten, eine Maschine schon.


  • Uta vor 8 Monaten Link zum Kommentar

    Ich sags mal so: der Mensch ist ein Parasit - für seine Gattung wie auch für seinen Lebensraum. Trotzdem müsste man von Fall zu Fall entscheiden, wer gerettet werden müsste - einige Menschen lassen sich nicht mehr retten und sind eh verloren.


    • Früher hat man von einem Spenderherz oder ähnliches abgesehen wenn der Patient ein gewisses Alter erreicht hat, heutzutage bekommt selbst ein 80 jähriger noch ein Herz. Ob es sich lohnt sei dahingestellt. Es bringt aber ordentlich Geld in die Kasse.


  • Was für eine blödsinnige Studie! Aber wenn man sie nun schon einmal verzapft hat bleibt nur noch eins: Gebt Alexa & Co. das Aussehen von Staubsaugern und Blumentöpfen.


  • Würdet ihr das Risiko eingehen euer Leben zu riskieren für euer geliebtes Smartphone? Stellen wir uns vor wir stehen am Bahnsteig und auf einmal fällt das Smartphone zwischen die Schienen und der Zug kommt in 1 Minute mit dem Wissen das Smartphone ist Schrott danach, alle Bilder die drauf sind alle Nachrichten voll kaputt, adieu, arrivederci, good bye😭🤳weil der Zug drüber fährt. Würde einer von euch versuchen das geliebte eventuell sogar neue iPhone XS oder Galaxy S10 oder was auch immer über 500€ teure Smartphone zu retten?
    Menschenleben opfern für einen Androiden?.....mir tat es in der Seele weh als sich Data im letzten Star Trek Film opferte nur um Picard zu retten. Das zeigt das Data doch mehr Mensch statt Maschine war. Ein Androide der immer sein wollte wie ein Mensch opfert sein Leben für ein Menschenleben. Natürlich hat er sein ganzes Wissen seinem Bruder B4 überspielt, aber B4 wird nicht mehr Data sein. Und natürlich kann man eine Maschine theoretisch ersetzen aber es ist nicht die gleiche Maschine. Genauso könnte man bei eineiigen Zwillingen sagen, wenn einer stirbt gibt es ja noch den baugleichen anderen der ja genauso aussieht aber im geistigen doch anders ist. Der Mensch ist nun mal geschaffen dafür zu allem ,egal ob natürlich oder künstlich , eine emotionale Bindung aufzubauen. Genauso zum Auto. Der deutsche liebt sein Auto. Mir tat es auch weh mein letztes Auto nach 8 Jahren abzugeben weil der Motor nicht mehr wollte. Hätte ich das Geld gehabt hätte ich es reparieren lassen aber zu teuer. Eine neue Matratze liegt sich nicht unbedingt besser als die gewohnte alte Matratze.


  • Nur wenn sie Alexa heißt.


  • Warum sollte ich? Einen Roboter kann man neu bauen, einen Menschen nicht. Da muss der Mensch es schon wirklich verdient haben.


  • Wenn ich wählen müsste - Arschloch oder sympathischer Roboter, definitiv Roboter.
    Wenn Familie / Freunde oder Roboter, definitiv Familie /Freunde . Denke so würden die meisten entscheiden.


  • Einen oder mehrere Menschen für einen Roboter, Androiden Opfern? Niemals. Der Roboter kann ersetzt werden, aber ein Lebewesen nicht.
    Egal wie Menschen ähnlich ein Roboter, Android am Ende ist, es ist und bleibt ein totes Werkzeug.


    • Darum geht es aber nicht, denn das sieht ja jeder so, wie du es beschrieben hast. Es geht darum, wie man entscheidet, wenn man praktisch keine Zeit zu entscheiden hat. Das beantwortet das Experiment aber auch nicht.


      • Ahoi vor 8 Monaten Link zum Kommentar

        Das Experiment sagt, dass das Aussehen eines Roboters eine Auswirkung auf die Entscheidung der Testpersonen zu Gunsten der Maschine hat.


    • Tim vor 8 Monaten Link zum Kommentar

      Ganz Plump gesagt könnte man behaupten: einen Menschen kannst du auch ersetzen. Haustiere werden, wenn sie Sternen, regelmäßig ersetzt. Wieso nicht auch Menschen?
      Menschen sind auch nur eine Ansammlung von aber Billionen von Atomen, die in Form von Zellen miteinander agieren...

      Mir fehlt die Empfindung von Empathie. Würde mich über eine Erklärung, warum das eine geht, aber das andere nicht, durchaus freuen.
      Mir würde die Entscheidung (Mensch vs. Humanoid) wahrscheinlich tatsächlich schwer fallen.


      • @Tim Menschen ersetzen?
        Dabei denkst du bestimmt an zu erledigende Aufgaben und wenn ein Arbeiter ausfällt mit dem nächsten auszutauschen, oder?
        Haustiere werden nicht einfach Ausgetauscht. Es gibt in der Regel eine Trauerphase bevor ein neuer tierischer Begleiter in's Leben tritt.
        Musste mein Kater letzten November leider auch begraben nach endlichen glücklichen Jahren miteinander und habe noch keinen neuen tierischen Begleiter, weil ick das noch nicht kann.
        Doch die nächste Katze wird kein Ersatz für ihn, da sie alle ihre eigene Persönlichkeit haben.

        "Menschen sind auch nur eine Ansammlung von aber Billionen von Atomen, die in Form von Zellen miteinander agieren..."
        Und dennoch ist das Resultat daraus immer Einzigartig.
        Ein Roboter, Android wird nach seinen Aufgabenfeld gebaut (gestaltet) und programmiert.
        Damit hat man 10,100,1000 oder 10000fach exakt das gleiche Ergebnis.

        "Würde mich über eine Erklärung, warum das eine geht, aber das andere nicht, durchaus freuen."
        Du hast schon mit einer falschen Primisse angefangen: Ersetzen=Austauschen.
        Die Persönlichkeit ist an das Individuum gebunden und wird das Individuum zerstört (durch Tot oder Hirnschaden) gibt es keinen Ersatz.


      • Tim vor 8 Monaten Link zum Kommentar

        @Nervas
        Nein, ich spreche nicht von einer zu erledigenden Aufgabe. Ich meine es so, wie ich es geschrieben habe. Darum auch der Vergleich mit Haustieren, welche schnell ersetzt werden, sobald sie sterben (woran auch immer). Bei dir mag das anders sein, aber nicht bei jedem. Gerade Haustiere wie Fische werden oftmals direkt ersetzt.

        Auch die "Trauerphase" erschließt sich mir nicht wirklich. Das machen viele, ja, aber das tun sie auch bei Menschen. Wo genau ist also der Unterschied?

        Und mag sein, dass jeder Mensch einzigartig ist. Aber das ließe sich bei einem Humanoiden (merke an, ich spreche nicht von plumpen Robotern mit einer einzigen Aufgabe) auch realisieren. Mit "menschlicher" KI könnte man jeden Humanoiden eigenständig lernen lassen, was ihn genauso einzigartig macht, wie einen Menschen.

        Und ich finde nicht, dass ich mit einer falschen Primisse angefangen habe, für mich sind Austausch und Ersetzen in diesem Fall aber einfach identisch. Ich sehe hier keinen Unterschied.


      • @Tim
        Ick bezeichne mich gerne selber als logisches, nüchternes, sachchliches Wesen, dennoch sind mir die Konzepte von Emphatie (Mitgefühl) und liebe nicht fremd.
        Aus deiner letzten Antwort muss ick aber leider (für dich) schließen für dich schon.
        Schade für dich 😥.

Zeige alle Kommentare
Neuen Kommentar schreiben:
Alle Änderungen werden gespeichert. Änderungen werden nicht gespeichert!