Das Holodeck und Ethik

[Agba]

Hey Leute, ich schaue gerade Voyager s06e17.

Es ist die Folge mit Tom Paris` Holoprogramm Fairhevan. Das Programm wird über 24 Stunden laufengelassen, was bei den Hologrammen zu Problemen führt. Diese können plötzlich wahrnehmen, wie die Voyager crew, erscheint, dinge sich in Luftausflösen usw.


Ich frage mich gerade wie es hier mit der Ethik steht. Man sieht ganz klar, wie sich diese Hologramme entwickeln, sich wikrlich ihrer Umgebung bewusst werden usw. Sind diese Hologramme wirklich noch nur Hüllen, oder eigentlich schon Lebewesen? Was meint ihr dazu.

[Sunny]

Ich frage mich gerade wie es hier mit der Ethik steht. Man sieht ganz klar, wie sich diese Hologramme entwickeln, sich wikrlich ihrer Umgebung bewusst werden usw. Sind diese Hologramme wirklich noch nur Hüllen, oder eigentlich schon Lebewesen? Was meint ihr dazu.

Gute Frage. Diese Frage kann man auch auf den HoloDoc ausweiten. Denn schließlich besteht "er" "es" auch nur aus Licht.

Das Holodeck und seine "Bewohner" sind für mich eher in die Ecke Freizeitvergnuegen einzuordnen.

Man schaltet das Holodeck an und aus und damit eben auch seine Bewohner. Es ist wohl eher wie eine Affäre, die einfach beendet werden kann, wenn es nicht mehr passt.

Schwierigkeiten kommen wohl wirklich erst dann zum Tragen, wenn sich die Hologramme bewusst werden, was sie sind. Ich denke, dass die Situation dann neu bewertet werden sollte. Für die Hologramme könnte dies danach aussehen, wie es auch wirklich ist. Sie wurden zum Vergnügen anderer erschaffen.

In diesem Moment ändert sich nicht nur für das Hologramm die Welt sondern auch für den Hologramm-Benutzer. Ganz ähnlich wie beim HoloDoc. Ich würde sie dann ebenfalls vor die Wahl stellen was ihnen am liebsten wäre. Für mich würden sie damit die gleichen Rechte erhalten, wie ich sie für mich auch in Anspruch nehmen würde.

[Hades]

Ich finde diese ganzen Holo-Plots schon mit Moriati in TNG Haarsträubend weil laut Erklärung der Funktion die Hologramme ja nur eine "Hülle" sind mit einem Kraftfeld um dargestellt zu werden und etwas anfassen zu können. Aber nach der Erklärung müssten:

a.) die Hologramme im dunkeln leuchten
b.) bräuchten der Holodo und alle anderen Hologramme in der nähe der Projektoren auch immer Sensoren um ihre Umgebung überhaupt wahr zu nehmen.
c.) Ihre "Intelligenz" steckt nicht im Hologram sondern im Computer der das Programm berechnet und speichert.

Die ersten beiden sind aber scheinbar nicht der Fall. Der Doc redet öfter von "Seinen Augen" und "Mit seinen Augen sehen". Also können sie nicht nur aus Licht bestehen sondern es muss ganze Materie repliziert werden nicht nur Licht, wenn nicht sogar ganze Organe.

Das die Intelligenz jedoch im Computer steckt zeigen grade der Doc und Moriati. Auf der anderen Seite sollen sich Holograme wie der Dok die sich selbst bewusst sind nicht einfach kopieren lassen. Also muss irgendwann doch eine Bindung zwischen Abbild und 0en und 1en im Computer stecken. Ich find's zu kompliziert.

[Martok01]

Es müssten hier erstmal zwei Grundfragen geklärt werden.

1: Hat ein Lebewesen ein Recht auf Leben? Ja
2: Hat ein Gegenstand ein Recht auf Leben? Nein

Auszug aus Wikipedia: Lebewesen werden in der Biologie als organisierte Einheiten definiert, die unter anderem zu Stoffwechsel, Fortpflanzung, Reizbarkeit, Wachstum und Evolution fähig sind.

Auszug aus Wikipedia: Der Gegenstand als solcher ist ein sprachlich verwendeter Begriff einer kognitiven Manifestation, die durch Sinnesreize und durch Denkprozesse ausgelöst wird. Das Erkennen eines Gegenstands ist Ausgangsbedingung für den weiteren Erkenntnisgewinn, für die Anwendung des Gegenstands oder für die Kommunikation über den Gegenstand. Der Begriff kann „alles meinen, wovon überhaupt die Rede ist“.[1] Üblicherweise bezeichnet der Begriff keine Lebewesen.

Androiden und Hologramme/Computer werden Künstlich erschaffen und sind somit erstmal Gegenstände. In der Zukunft ist es nun möglich sie sogar so zu Programmieren das sie Lernen können und sich ihrer Selbst bewusst sind. Gibt man ihnen nun auch noch die Möglichkeit sich zu vermehren sind sie so gesehen auch zur Fortpflanzung fähig. Durch die Fähigkeit zu lernen, können sie ihre quasi nachkommen sogar verbessern bzw. sie der jeweiligen Umweltbedingungen anpassen. Durch das verbessern ihrer Nachkommen findet also auch eine Art Evolution statt.

Ich will das nun nicht weiter ausführen aber nehmen wir mal an, es ist möglich den Gegenstand (Androiden und Hologramm/Computer) so zu bauen das dieser alles kann, was per Definition einem Lebewesen entspricht. Wird der Gegenstand dann nicht zum Lebewesen? und hat es dann nicht auch ein Recht auf Leben?

Achja falls jetzt einer mit dem Argument kommt das, Viren, Insekten, Tiere und Pflanzen, welche wir ja auch ohne zu zögern töten auch Lebewesen sind, das ist ein anderes Thema.

[Suthriel]

Ich finde diese ganzen Holo-Plots schon mit Moriati in TNG Haarsträubend weil laut Erklärung der Funktion die Hologramme ja nur eine "Hülle" sind mit einem Kraftfeld um dargestellt zu werden und etwas anfassen zu können. Aber nach der Erklärung müssten:

a.) die Hologramme im dunkeln leuchten
b.) bräuchten der Holodo und alle anderen Hologramme in der nähe der Projektoren auch immer Sensoren um ihre Umgebung überhaupt wahr zu nehmen.
c.) Ihre "Intelligenz" steckt nicht im Hologram sondern im Computer der das Programm berechnet und speichert.

Die ersten beiden sind aber scheinbar nicht der Fall. Der Doc redet öfter von "Seinen Augen" und "Mit seinen Augen sehen". Also können sie nicht nur aus Licht bestehen sondern es muss ganze Materie repliziert werden nicht nur Licht, wenn nicht sogar ganze Organe.

Das die Intelligenz jedoch im Computer steckt zeigen grade der Doc und Moriati. Auf der anderen Seite sollen sich Holograme wie der Dok die sich selbst bewusst sind nicht einfach kopieren lassen. Also muss irgendwann doch eine Bindung zwischen Abbild und 0en und 1en im Computer stecken. Ich find's zu kompliziert.

Das sehe ich etwas anders:

A) Warum muss ein Kraftfeld leuchten? Auch wenn es bei den meisten der ST-Kraftfelder üblich ist, das sie mindestens bei Berührung aufleuchten, dürfte das nicht für alle gelten, die Hologramme leuchten ja offenbar nicht Ein Magnetfeld (zwar kein richtiges ST-Kraftfeld aber als Beispiel ganz passabel) leuchtet ja auch nicht, ist für uns gänzlich unsichtbar, und trotzdem werden wir uns eines starken Magnetfeldes spätestens dann bewusst, wenn wir Eisen oder andren magnetischen Kram bei uns haben ^.^

B) Zumindest das Holodeck selbst muss vollgestopft sein mit Sensoren, damit das Programm korrekt auf sämtliche Reaktionen der Menschen darin reagieren und die Simulation anpassen kann. Und der Doc kann sicher als extern laufendes Programm auf die anderen Sensoren der Voyager zurückgreifen. Und es kann ja sein, das die Holoprojektoren schon die benötigten Sensoren mit integriert haben, weil die Hologramme ja auch Feedback benötigen.

C) Jepp, das dürfte so sein, das ihre Intelligenz und bei Moriati auch ihr Bewusstsein, als extra Programm im Computer mit laufen... das ändert aber nichts daran, das genau dieses Programm sich offenbar soweit entwickeln kann, das es ein eigenes Bewusstsein erzeugen kann
Simulierte neuronale Netze arbeiten bei korrekter Programmierung genau so wie echte neuronale Netze, entwickeln sich genau so und liefern auch gleiche Ergebnisse. Wo willst du dann einen Unterschied festmachen?
Hat das eine Bewusstsein mehr Existenzrechte, weil es biologische Nervenzellen verwendet und das andere diese "nur" virtuell in irgend einem Chip nachbaut, obwohl beide Versionen genau gleich funktionieren?

Ein Computer, der solche Simulationen erzeugen kann, ist auch in der Lage, den künstlichen Lebewesen die Welt aus ihrem Blickwinkel zu simulieren, so das diese die Simulation tatsächlich mit ihren ebenfalls künstlichen Sensoren/Augen/Ohren wahrnehmen können.
Eigentlich muss der Comp nur die Welt erschaffen und den Holodeck-Figuren nur genug virtuelle Sinne mit einbauen, das sie genau wie die echten Menschen alles sehen und fühlen können, der Rest ist dann abhängig von ihrer KI. Und die ist wie beim Holodoc und Moriati gesehen zu einem Bewusstsein fähig, wenn man ihnen alles dafür benötigte mit simuliert und ihnen die Freiheiten gibt.

Mit virtuellen Sensoren/Sinnesorganen meine ich, das die nicht wie richtige Augen direkt mit erzeugt werden müssen, sondern das das Programm die Eindrücke, die zB. ein Auge an genau jener Stelle erhalten würde, direkt in das künstliche neuronale Netz einspeist, ohne das da ein annähernd echtes Auge simuliert werden muss. Das Programm muss nur wissen, was würde ein Auge an dieser Stelle und Blickrichtung sehen (genau dafür wären die Holodeck- bzw Schiffssensoren zuständig) und leitet diese Daten dann an die entsprechenden KI-Teile weiter.

[Hades]

Auszug aus Wikipedia: Lebewesen werden in der Biologie als organisierte Einheiten definiert, die unter anderem zu Stoffwechsel, Fortpflanzung, Reizbarkeit, Wachstum und Evolution fähig sind.

Außer Stoffwechsel ist bei Hologramen und Data ab einem gewissen punkt alles gegeben und die Föderation hat scon mehrere Lebewesen getroffen die keinen Stoffwechsel haben (das anorganische Leben aus TNG und Körperlose Wesen wie Organier)

Androiden und Hologramme/Computer werden Künstlich erschaffen und sind somit erstmal Gegenstände.

Ist ein Kind aus künstlicher Befruchtung und Klone damit Gegenstände? Ließ dir die oben Zitiere Definition nochmal durch, da steht nix drüber wie das Subjekt entstanden sein muss.

... Viren (...) auch Lebewesen sind ...

Viren sind entgegen der üblichen Darstellung in Filmen keine Lebewesen. Sie haben keinen Stoffwechsel. Es sind DNA Bruchstücke die lebende Zellen verseuchen und umprogrammieren, dass sind aber alles passive Vorgänge. Es sind quasi Säuren die Zellen verätzen und weitere Säuren entstehen lassen

[Martok01]

Ist ein Kind aus künstlicher Befruchtung und Klone damit Gegenstände? Ließ dir die oben Zitiere Definition nochmal durch, da steht nix drüber wie das Subjekt entstanden sein muss.

Bei der Künstlichen Befruchtung wird der Samen lediglich auf künstlichen Wege in die Eizelle eingepflanzt und nicht über natürlichen Wege. Der Samen wird ja trotzdem vom Mann entnommen und nicht im Labor hergestellt.

Aber die Frage könnte man auch andersrum stellen^^ Was ist wenn ich dem Tod nahe bin und mein Bewusstsein wird auf eine Festplatte transferiert. Hat die Festplatte dann ein recht heile zu bleiben weil mein Bewusstsein da drauf ist oder werde ich in dem moment nur noch zum Gegenstand?

[Hades]

Bei der Künstlichen Befruchtung wird der Samen lediglich auf künstlichen Wege in die Eizelle eingepflanzt und nicht über natürlichen Wege. Der Samen wird ja trotzdem vom Mann entnommen und nicht im Labor hergestellt.

Aber die Frage könnte man auch andersrum stellen^^ Was ist wenn ich dem Tod nahe bin und mein Bewusstsein wird auf eine Festplatte transferiert. Hat die Festplatte dann ein recht heile zu bleiben weil mein Bewusstsein da drauf ist oder werde ich in dem moment nur noch zum Gegenstand?

Da das ja jetzt generell nix mehr ausschließlich mit ST zu tun hat lässt sich das ja auslagern:

http://www.scifi-forum.de/off-topic/off-topic-allgemein/technik-wissenschaft/6787-k-nstliche-intelligenz.html

http://www.scifi-forum.de/off-topic/off-topic-allgemein/technik-wissenschaft/64185-its-alive-erstes-k-nstliches-leben.html

[Suthriel]

Mmmhh... hab ich meinen obigen Beitrag umsonst geschrieben?

[pollux83]

Viren sind entgegen der üblichen Darstellung in Filmen keine Lebewesen. Sie haben keinen Stoffwechsel. Es sind DNA Bruchstücke die lebende Zellen verseuchen und umprogrammieren, dass sind aber alles passive Vorgänge. Es sind quasi Säuren die Zellen verätzen und weitere Säuren entstehen lassen

Das hängt von der Definition für Leben ab. Man kann Viren durchaus als eine besondere Art von Leben definieren.

Unbelebte Materie sind Viren jedenfalls nicht. Einige Viren können andere Viren sogar infizieren und diese dadurch "krank" machen. Das klingt dann doch eher nach einem Lebewesen.


Zur eigentlichen Frage.
Wenn man Leben erschafft, sei es nun eine KI oder irgend etwas anderes, dann ist man gefälligst dafür auch verantwortlich. Das Problem ist nun zwischen einem einfachen anpassungsfähigen Programm und einer echten KI zu unterscheiden.

Wie man bei den Holoprogrammen sehen kann, ist dieser Übergang fließend. Solange sie kein Selbstbewusstsein entwickeln ist für mich ethisch kein Problem vorhanden, es sind nur Programme.

Bei Dater oder dem Doktor sieht das Ganze schon wieder anders aus. Sie besitzen Selbstbewusstsein und können sich selbstständig weiterentwickeln, was sie für mich zu vollwertigen KI's macht. Für mich sind das Lebewesen, die die gleichen Rechte verdienen wie die anderen Spezies und in manchen Kulturen bei ST sind KI's ja auch gleichberechtigt. Die Föderation ist in dieser Frage noch sehr fahrlässig. Man sichert die Holoprogramme nicht davor ab Selbstbewusstsein zu entwickeln und nutzt die Holodoktoren zur Minenarbeit. Das grenzt schon an Sklaverei, die ja eigendlich verboten sein sollte.

[Agba]

Ich finde diese ganzen Holo-Plots schon mit Moriati in TNG Haarsträubend weil laut Erklärung der Funktion die Hologramme ja nur eine "Hülle" sind mit einem Kraftfeld um dargestellt zu werden und etwas anfassen zu können. Aber nach der Erklärung müssten:

a.) die Hologramme im dunkeln leuchten
b.) bräuchten der Holodo und alle anderen Hologramme in der nähe der Projektoren auch immer Sensoren um ihre Umgebung überhaupt wahr zu nehmen.
c.) Ihre "Intelligenz" steckt nicht im Hologram sondern im Computer der das Programm berechnet und speichert.

Die ersten beiden sind aber scheinbar nicht der Fall. Der Doc redet öfter von "Seinen Augen" und "Mit seinen Augen sehen". Also können sie nicht nur aus Licht bestehen sondern es muss ganze Materie repliziert werden nicht nur Licht, wenn nicht sogar ganze Organe.

Das die Intelligenz jedoch im Computer steckt zeigen grade der Doc und Moriati. Auf der anderen Seite sollen sich Holograme wie der Dok die sich selbst bewusst sind nicht einfach kopieren lassen. Also muss irgendwann doch eine Bindung zwischen Abbild und 0en und 1en im Computer stecken. Ich find's zu kompliziert.

Das mit dem sich kopieren finde ich sehr unrealistisch in Voyager gelöst. irgendwie scheit die copy/past funktion im 24 Jahrhundert verloren gegangen zu sein
Nein aber mal im ernst es gibt soviele situationen, in denen der Doc fast ausgelöscht wird: 1. weil sich seine Holomatrix destabilisiert
2. seine Speicherpuffer aufgelöst werden
3. er plötzlich mit der Holomatrix des sich destabilisierenden Holodecks verbunden ist.

Warum kann man den Doc nicht einfach kopieren?
Fals jemand mit dem Argument kommt, er wäre als Programm zu groß.
> Egal wie groß sein Programm ist (ich glaube es wird mal von millionen Teraquad geschrieben), es dürfte nur einen winzigen bruchteil der Speicherkapazität der Voyager ausmachen.
2. Es kann auch desshalb nicht an seiner Größe liegen, da er ja innerhalb von millisekunden in eine andere Holomatrix oder seinen mobilen emitter geladen werden kann (auch wenn dieser aus dem 29. Jh stammt, bleibt immer noch das Laden in ein anderes Holosystem). D.h man ist in der lage 1000de Terraquad an daten innerhalb von millisekunden zu verschieben, was auch dafür sprechen sollte, dass es nur eine vergleichsweise kleines Programm ist.

[Thomas W. Riker]

In der Voyager Episode in der es um die Autorenrechte des Doctors ging wurde auch über Persönlichkeitsrechte von Hologrammen analog zu den Persönlichkeitsrechten Datas nachgedacht.
Bei dieser Telekonferenz mit der Föderation (oder war es nur die Sternenflotte) wurde darüber nicht abschließend entschieden aber der Doctor erhielt die Autorenrechte.
Da zumindest begründete Zweifel bestanden, Hologrammen Persönlichkeitsrechte nicht zuzustehen, wurden ja auch Moriatrys Programm in dem Würfel laufengelassen und Janeway gab dem Doctor die Möglichkeit sein Programm selbst zu unterbrechen und verbot Ihn (außer im Notfall) gegen seinen Wilen(!) auszuschalten.
Diese Episoden haben übrigens Bezüge zu der Diskussion um Jane Goodall, ob man Menschenaffen Menschenrechte zuerkennen sollte.

- - - Aktualisiert - - -

Aber die Frage könnte man auch andersrum stellen^^ Was ist wenn ich dem Tod nahe bin und mein Bewusstsein wird auf eine Festplatte transferiert. Hat die Festplatte dann ein recht heile zu bleiben weil mein Bewusstsein da drauf ist oder werde ich in dem moment nur noch zum Gegenstand?

So einen ähnlichen Gedanken hatte ich auch mal.
Nach einem kurzen Kollaps wegen niedrigem Blutdruck wurde ein MRT meines Gehirns gemacht und ich lies mir eine CD davon machen.
Danach überlegte ich mir, ob man nicht ein Schachprogramm auf einer CD mit der MRT-CD komprimieren könnte und das ganze via MRT wieder in mein Gehirn aufspielen könnte

[Martok01]

Ok um zum Thema Holodeck zurückzukommen, mir kommt es so vor das sich die Leute im 24. Jahrhundert einfach noch keine genauen Gedanken über die Folgen der Holodeck Technologie gemacht haben.

So wie ich es verstanden hab ist die Holodeck Technologie Mitte des 24. Jahrhundert noch recht neu bzw. erst so ausgereift das man alles perfekt kreieren kann. Zumindest sagt Picard in der ersten oder zweiten Staffel einer Folge, das er noch nie so eine perfekte Simulation gesehen habe.

Naja jedenfalls ist es scheinbar so das einfach nicht bedacht wurde das Hologramme ein Bewusstsein entwickeln könnten. Von der Ethischen Seite kann man sich nun wieder streiten. Haben Hologramme mit Bewusstsein ein Recht auf Leben oder sind es einfach nur Fehlerhafte Programme die Repariert werden müssen.

Klingt hart aber ich würde zu letzteren tendieren und das Hologramm Reparieren und eine Sicherung einbauen die das in zukunft verhindert. Man stelle sich vor das jedes Hologramm mit der Zeit ein Bewusstsein entwickelt, das würde nicht lange gutgehen. Ich will ja auch nicht das mein Computer irgendwann mit mir streitet weil er ein Bewusstsein entwickelt hat^^

Der Voyager Doc und das Moriarty Hologramm sind hier einfach als Ausnahme anzusehen.

[Hades]

Ich denke auch das es bei Hologrammen in zwei Richtungen geben wird, die Dauerhaft betriebenen wie Ärzten usw ist Selbstbewusstsein und Entwicklung ja sinnvoll und gewollt, bei Unterhaltungsprogrammen sollte man es zu aller Wohl vermeiden.

Das die Föd sich mit der Problematik auseinandersetzt und setzen muss zeigen der Prozess um Data und der Status vom MHD in Endgame.

[HanSolo]

Ob KIs auch Lebewesen sein können ist ja eines DER Themen von ST (vor allem TNG und VOY). Wirklich klären kann man das wohl nie, da man nicht in den Doc oder Data "hineinschaun" kann. Auf alle Fälle wirkt es, als hätten sie ein Bewusstsein. Dann ist das Holodeck (vor allem wie es in DS9 als eine Art Bordell genutzt wird) sicherlich moralisch fragwürdig. Allerdings dürften hier auch die so aufgeklärten ST-Menschen des 24. Jahrhunderts noch einige Zeit brauchen um KIs als "Lebewesen" anzusehen, siehe wie sie oft auf Data und das MHN reagieren.