Star Trek gegen KIs?

[Tegger]

Was ich aber nicht kapiere: Wie kann der Computer IN seinem Speicher eine sich selbst bewusste KI am Laufen haben, aber selber nur ein besserer Taschenrechner sein. Versteht mich nicht falsch: Der Enterprise-Computer ist toll, aber ein eigenes BEWUSSTSEIN hatte er nicht, oder? Der war mehr so dass, was wir heute unter KI verstehen, Spracherkennung, usw.

Das ist nicht weiter schwierig zu erklären. Es gibt Software, die die Signalverarbeitung von Nervenzellen simuliert. Solche Programme nehmen die Beschreibungen der Zellen und rechnen nach Schema F die Membranpotentiale und ihre Änderungen aus. Keiner würde solche Programme bewusst nennen, wenn das, was sei berechnen selbst ein Modell des menschlichen Gehirnes wäre. Und sie damit ein Bewusstsein simulieren würden.

[Harmakhis]

Keiner würde solche Programme bewusst nennen, wenn das, was sei berechnen selbst ein Modell des menschlichen Gehirnes wäre. Und sie damit ein Bewusstsein simulieren würden.

Die Simulation eines Bewusstseins ist nicht von einem "natürlich" Bewusstsein zu unterscheiden.
Ein solches Programm wäre tatsächlich selbstbewusst.

Die Erklärung innerhalb des Trek-Universums ist wahrscheinlich eher, dass die Computer der Raumschiffe prinzipiell schon eine starke KI sind, aber durch spezielle Programmierungen im Zaum gehalten werden. Leistungsfähig genug sind sie auf jedenfall. Geordie wird durch seinen komischen Wunsch diese Beschränkung aufgehoben haben - will sagen, der Enterprise Computer hat die Hardware-Kapazität und die nötigen "Skills" um bewusst zu sein, das ist bloß nie verlangt worden. Deshalb ist er es auch nicht.

[irony]

Das ist nicht weiter schwierig zu erklären. Es gibt Software, die die Signalverarbeitung von Nervenzellen simuliert. Solche Programme nehmen die Beschreibungen der Zellen und rechnen nach Schema F die Membranpotentiale und ihre Änderungen aus. Keiner würde solche Programme bewusst nennen, wenn das, was sei berechnen selbst ein Modell des menschlichen Gehirnes wäre. Und sie damit ein Bewusstsein simulieren würden.

Bei dieser Argumentation fehlt mir aber, woher der Enterprise-Computer wusste, wie er einer Holofigur, deren Programm in seinem Speicher läuft, Bewusstsein gibt. Und warum er sich nicht gleich selbst eins gibt. Natürlich kann man jetzt eine ad hoc Erklärung finden, würde mich auch interessieren, aber in der Folge selbst ist diese Frage nicht thematisiert worden. Dort war es so: Die Holofigur hat plötzlich Bewusstsein, das ihr der Computer gegeben hatte, aber keiner verschwindet grosse Gedanken an die KI der Enterprise, was schon sehr, sehr bedenklich ist, wenn man an Szenen denkt, in denen der Selbstzerstörungs-Countdown ausgelöst wird, was ja nicht okay ist, wenn die Enterprise selbst ein Bewusstsein hätte, was man eigentlich annehmen muss.

Aber diese Ethik ist Star Trek dann doch zu unangenehm.
Jemand der dieses Eisen anpackt ist Iain Banks mit seinen Culture-Romanen, in denen Schiffe KI und Bewusstsein haben und Menschen ethisch gleichgestellt sind.

[Tegger]

Die Simulation eines Bewusstseins ist nicht von einem "natürlich" Bewusstsein zu unterscheiden.
Ein solches Programm wäre tatsächlich selbstbewusst.

Okay, wenn man wie in ST wohl gemeint ein Programm mit Software UND dem Datenmodell gleich setzt, dann ist es richtig.
Was ich gemeint habe ist, dass das simulierte Bewusstsein das Ergebnis der Simulation des Gehirnes durch das Programm wäre. Das Programm an sich spielt dann die Rolle des physikalischen Universums und der Naturgesetze, ist also mit dem Bewusstsein oder dem Modell des Gehirnes nicht identisch.

Die Erklärung innerhalb des Trek-Universums ist wahrscheinlich eher, dass die Computer der Raumschiffe prinzipiell schon eine starke KI sind, aber durch spezielle Programmierungen im Zaum gehalten werden. Leistungsfähig genug sind sie auf jedenfall.

Stimmt, das meine ich auch, das Potential hätten sie, nur werden sie künstlich in Schranken gehalten, um die Menschen und andere Humanoiden keine Probleme zu bereiten.

Geordie wird durch seinen komischen Wunsch diese Beschränkung aufgehoben haben - will sagen, der Enterprise Computer hat die Hardware-Kapazität und die nötigen "Skills" um bewusst zu sein, das ist bloß nie verlangt worden. Deshalb ist er es auch nicht.

Ich nehme mal an, dass die Holo-Intelligenzen eher einfacher gestrickt sind, wenn sogar Menschen durchblicken können, wie ihr Verstand funktioniert. Beim menschlichen Gehirn ist es anscheinend nicht so.


.
EDIT (autom. Beitragszusammenführung) :
Tegger schrieb nach 9 Minuten und 54 Sekunden:

Bei dieser Argumentation fehlt mir aber, woher der Enterprise-Computer wusste, wie er einer Holofigur, deren Programm in seinem Speicher läuft, Bewusstsein gibt. Und warum er sich nicht gleich selbst eins gibt.

Der Computer simuliert eben wieder nach Schema F die Verstandesprozesse der Hologramme, die im Ergebnis vielleicht ein Bewusstsein bilden. Der Schiffscomputer ist also eine Leinwand und die Farben, nicht das Bild selbst.

aber keiner verschwindet grosse Gedanken an die KI der Enterprise, was schon sehr, sehr bedenklich ist, wenn man an Szenen denkt, in denen der Selbstzerstörungs-Countdown ausgelöst wird, was ja nicht okay ist, wenn die Enterprise selbst ein Bewusstsein hätte, was man eigentlich annehmen muss.

Es ist eben so, dass der Schiffscomputer mit keinem Bewusstsein versehen wird. Anscheinend will man keine intelligenten Schiffe.

Aber diese Ethik ist Star Trek dann doch zu unangenehm.
Jemand der dieses Eisen anpackt ist Iain Banks mit seinen Culture-Romanen, in denen Schiffe KI und Bewusstsein haben und Menschen ethisch gleichgestellt sind.

Ich halte die Romane für ziemlich utopisch, was die Kultur angeht. Und irgendwie kommen mir die nichtkünstlichen Lebensformen dort irgendwie überflüssig vor. Die bekommen zwar ab und zu irgendwelche kleineren Aufgaben, damit sie sich nützlich fühlen können, aber sonst dürfen sie einfach ihren kleinen Beschäftigungstherapien nachgehen...

[irony]

Was man auch berücksichtigen sollte, ist wohl, dass die Asimov-Gesetze nur beschränkt Anwendung finden. Bei den Culture-Schiffen hat die Schiffs-KI ja schon viel Souveränität. Man stelle sich mal bei Star Trek vor, wie die 40 Föderationsschiffe bei Wolf 359 gehandelt hätten, wenn sie eigenes Bewusstsein gehabt hätten! Ob da nicht manche aus Selbsterhaltung einfach abgehauen wären? Am strategischen Ergebnis der Schlacht - der Borgkubus wird nicht lange aufgehalten - hätte das nichts geändert, aber so wurden alle Schiffe außer dem Angreifer fast sinnlos zerstört.

Ich denke, ein intelligentes Schiff würde sich selbst und seine Fracht/Passagiere vornehmlich von A nach B bringen wollen, aber nicht selbstmörderisch in eine aussichtslose Schlacht fliegen. Nach den Asimov-Gesetzen wird es aber in diese Richtung, so oder so Probleme geben: Zwar muss das Schiff dann gehorchen, selbst wenn es zerstört wird, aber was, wenn das Schiff eine Gefahr - auch für die Menschen an Bord ! - ganz anders einstuft als der Captain? Nach Asimov darf es einen Menschen nicht durch Untätigkeit zu Schaden kommen lassen.

[Harmakhis]

Ich denke nicht, dass die Asimov-Gesetze für KI zu gelten haben. Sie gelten ja auch nicht für Menschen.

Letztlich hat man dann wirklich ein Problem... eine KI müsste sich sozusagen "freiwillig" zum Kriegsdienst melden. Das kann nur funktionieren, wenn man KIs zwischen verschiedenen Schiffen und Anlagen kopieren kann, sodass ein "Kriegsdienstverweigerer", dann halt zum Verwaltungscomputer eines Krankenhauses wird oder so.

[newman]

Ja das stell ich mir lustig vor.
Und plötzlich zerstört die Enterprise das Schiff des Admirals, weil das Schiff des Admirals die Freundin der Enterprise per Subraumkomunikation angegraben hat.

Wenn man so darüber nachdenkt ists wohl kein Wunder, dass man Schiffssysteme, die von der Rechenkapazität anscheinend locker ein Bewusstsein entwickeln könnten, doch lieber unbewusst ließ und "nur" klug auf Befehle reagieren lässt.

[Harmakhis]

Wenn man so darüber nachdenkt ists wohl kein Wunder, dass man Schiffssysteme, die von der Rechenkapazität anscheinend locker ein Bewusstsein entwickeln könnten, doch lieber unbewusst ließ und "nur" klug auf Befehle reagieren lässt.

Stellt sich halt die Frage wie realistisch ist. Ich halte es für etwas utopisch, dass es möglich sein soll so einen klaren Schnitt zu ziehen. Beim Doktor sieht man ja auch, dass sich eine echte KI fast von alleine entwickelt und von irher Programmierung emanzipiert.

[irony]

Stellt sich halt die Frage wie realistisch ist. Ich halte es für etwas utopisch, dass es möglich sein soll so einen klaren Schnitt zu ziehen. Beim Doktor sieht man ja auch, dass sich eine echte KI fast von alleine entwickelt und von irher Programmierung emanzipiert.

Also ich denke, dass Du da Recht hast, aber wahrscheinlich jeden Tag ein Teil der Techniker-Besatzung entsprechende Diagnosen des Schiffscomputers durchführt. Ich meine, ganz ehrlich, das ging ja ratzfatz, dass die Enterprise eine unabhängige, selbstbewusste KI im Holodeck erzeugte.

Vermutlich muss da dauernd kontrolliert werden, sonst passiert es wirklich irgendwann, dass ein Hologramm das Schiff übernimmt. Vermutlich sind unter anderem auch deswegen Holoprojektoren nur auf Holodecks und Krankenstation beschränkt. Denn so ein Holoprojektor könnte Hologramme, wie bei Star Trek VIII gesehen, auch zur Verteidigung des Schiffs einsetzen, z.B. wenn eine Enterprise mit Minimalbesatzung wie bei Star Trek III von Klingonen oder sonst wem geentert wird.

[newman]

Stellt sich halt die Frage wie realistisch ist. Ich halte es für etwas utopisch, dass es möglich sein soll so einen klaren Schnitt zu ziehen. Beim Doktor sieht man ja auch, dass sich eine echte KI fast von alleine entwickelt und von irher Programmierung emanzipiert.

Ist es wahrscheinlich auch nicht. Vic Fontaine ist vielleicht noch ein besseres Beispiel, da der sogar ungefragt plötzlich auf andere Programme übergreift.

Aber beim Schiffscomputer gibts so viele duzend Sicherheitsvorkehrungen, die ständig überbrückt werden müssen, da scheint es zu funktionieren. Es kommt wohl auch etwas auf die Qualität der Reglementierungen an. Bei einem Computer des Flaggschiffs wird man nur Profis ans Werk lassen.
Ohne fremde Hilfe hat die Enterprise bisher jedenfalls noch keinen eigenen Willen entwickelt.

[irony]

[...] Bei einem Computer des Flaggschiffs wird man nur Profis ans Werk lassen. Ohne fremde Hilfe hat die Enterprise bisher jedenfalls noch keinen eigenen Willen entwickelt.

Genial finde ich ja auch die TOS-Folge "Computer M5", der Profi, den man dort ranlässt, ist Dr. Daystrom, und ja, stimmt ohne fremde Hilfe gehts hier irgendwie nicht. Aber es ist schwebt immer so mal wieder als Thema durch den Raum, auch in Star Trek I, wo V'Ger die Enterprise als von Kohlenstoffeinheiten infizierte Lebensform auffasst. Was haltet ihr von "Computer M5" und "V'Ger" ?

Sollte man die Erkundung des Alls einer von M5 geführten Enterprise überlassen?
Roboter ins All schicken? Mit V'Ger sieht man ja, was passiert. Die M5-Enterprise würde sich vermutlich rascher entwickeln als die Menschheit.

[irony]

Ja das stell ich mir lustig vor.
Und plötzlich zerstört die Enterprise das Schiff des Admirals, weil das Schiff des Admirals die Freundin der Enterprise per Subraumkomunikation angegraben hat.

Wenn man so darüber nachdenkt ists wohl kein Wunder, dass man Schiffssysteme, die von der Rechenkapazität anscheinend locker ein Bewusstsein entwickeln könnten, doch lieber unbewusst ließ und "nur" klug auf Befehle reagieren lässt.

Interessanterweise gibt es in der ebenfalls von Gene Roddenberry entwickelten Serie "Andromeda" eine zum Thema passende Folge: Andromeda - Episodenfhrer

12.) Pax Magellanic (The Mathematics of Tears) : "Die Andromeda Ascendant trifft auf ihr Schwesterschiff Pax Magellanic, das sich in einem aus Trümmern des Planeten Herodotus hervorgegangenen Asteroiden-Gürtel befindet. Der Kommandant des Schiffes, Captain Warrick, ist tot, und Pearce hat das Kommando übernommen. Von Pearce erfährt die Andromeda-Besatzung, dass Warrick bei einem Angriff der Nietzscheaner umgekommen sei. Er habe sich mit seinen Truppen gerade auf dem Planeten Herodotus aufgehalten, als dieser von den Nietzscheanern in die Luft gesprengt wurde. Dylan und Rommie kommt jedoch einiges komisch vor, und Rommie entdeckt schließlich, dass Pearce und alle anderen Menschen auf dem Schiff Hologramme sind. Pearce ist die künstliche Intelligenz der Pax Magellanic, die Warricks Befehl zur Selbstzerstörung ignoriert und statt dessen den Planten samt Warrick und seiner Mannschaft gesprengt hat. Nun will sie auch die Andromeda zerstören..."

Hier ist die KI offenbar sehr autonom, und offenbar hat man bei Star Trek doch einige Sicherungen eingebaut, d.h. Star Trek ist nicht sonderlich KI-freundlich und hat es auch nicht so mit Übermenschen (Nitzscheaner).

[EA-Loyalist]

Interessanterweise gibt es in der ebenfalls von Gene Roddenberry entwickelten Serie "Andromeda" eine zum Thema passende Folge: Andromeda - Episodenfhrer

12.) Pax Magellanic (The Mathematics of Tears) : "Die Andromeda Ascendant trifft auf ihr Schwesterschiff Pax Magellanic, das sich in einem aus Trümmern des Planeten Herodotus hervorgegangenen Asteroiden-Gürtel befindet. Der Kommandant des Schiffes, Captain Warrick, ist tot, und Pearce hat das Kommando übernommen. Von Pearce erfährt die Andromeda-Besatzung, dass Warrick bei einem Angriff der Nietzscheaner umgekommen sei. Er habe sich mit seinen Truppen gerade auf dem Planeten Herodotus aufgehalten, als dieser von den Nietzscheanern in die Luft gesprengt wurde. Dylan und Rommie kommt jedoch einiges komisch vor, und Rommie entdeckt schließlich, dass Pearce und alle anderen Menschen auf dem Schiff Hologramme sind. Pearce ist die künstliche Intelligenz der Pax Magellanic, die Warricks Befehl zur Selbstzerstörung ignoriert und statt dessen den Planten samt Warrick und seiner Mannschaft gesprengt hat. Nun will sie auch die Andromeda zerstören..."

Hier ist die KI offenbar sehr autonom, und offenbar hat man bei Star Trek doch einige Sicherungen eingebaut, d.h. Star Trek ist nicht sonderlich KI-freundlich und hat es auch nicht so mit Übermenschen (Nitzscheaner).

Dies erscheint vernünftig, es ist zu riskant. Super-KIs und Übermenschen würden auch nicht in das Roddenberrysche Bild einer emotional gereiften Menschheit passen. Star Trek vermeidet halt solche extreme. Beispiele für extreme KIs in ST wären etwa der Maschinenplanet aus ST I und die Pralor und Cravic aus VOY.

[irony]

Dies erscheint vernünftig, es ist zu riskant. Super-KIs und Übermenschen würden auch nicht in das Roddenberrysche Bild einer emotional gereiften Menschheit passen. Star Trek vermeidet halt solche extreme. Beispiele für extreme KIs in ST wären etwa der Maschinenplanet aus ST I und die Pralor und Cravic aus VOY.

Über den Maschinenplanet, der aus einer Voyager-Sonde dieses seltsame Objekt V'Ger gemacht hat, erfährt man doch später auch nicht mehr viel, oder? Irgendwo habe ich mal gelesen, es gäbe eine Verbindung zu den Borg.

Wie sieht es eigentlich mit den Borg aus: So ein wenig passen die doch ins Schema Übermenschen und mit Kybernetik bzw. künstlicher Intelligenz sollten die doch auch etwas zu tun haben. Allerdings sieht man bei den Borg keine Computer, oder doch? Oder spielen die Gehirne der Borgdrohnen die Rolle des Schiffscomputers?

[EA-Loyalist]

Die Borg lassen sich nicht genau einorden. Ich persönlich meine bei ihnen: sowohl als auch.
Man sieht bei den Borg hin und wieder Drohnen an Monitoren arbeiten, die Borg sind jedoch nur im begrenzten Maße auf die altmodische manuelle Eingabe angewiesen.
Meines Wissens ist die Borgtechnologie generell miteinader verbunden. Es existiert also kein signifikanter Unterschied zwischen Schiff und Mannschaft, da alle Gehirne und Schaltkreise parallel arbeiten sind die Borg wohl der mächtigste Computer ever.

Zu ST I: Gene Roddenberry hat das mit den Borg mal angedeutet - nichts weiter. Die Fans haben dann daraus diverse Thesen entwickelt. Im Board müsste darüber auch diverse Threads geben.