Kann uns die KI gefährlich werden?

[Galax]

Nun, das bewusstsein. das "ich" bewusstsein, so wie wir das alle jeden tag für selbstverständlich hinnehmen ist eben mehr als nur ne komplexe ansammlung von zellen.

Wenn man sich betrachtete, was das bewusstsein ist, so kommt man zu dem schluß, das wir nur wissen, wer wir sind, weil wir es wissen.

schwerer satz, aber ich erklärs mal sorum:

Stellt euch vor, ihr vergesst alles, was ihr bisher wisst.
Vergesst zu laufen, zu sprechen, einfach alles.
Was zurückbleibt ist ein leerer geist, überlebt durch instinkte wie greifen, saugen, atmen.
Nicht einmal stehen könnt ihr.

Ihr seid psychich tod.

Der leere körper jedoch lebt wie ein koma-patient und kann nun mit neuen informationen gefüttert werden. Aufgrund der erfahrungen, die dieses frisch geleerte gehirn sammelt bilden sich neue vorlieben, geschmäcker, erinnerungen.
Es entsteht ein völlig neuer mensch, der alles neu erlernen und entdecken muss. Und das in eurem körper! Ihr selbst werden davon nichts mitbekommen.
Selbst wenn man diesem neuen mensche erzählt, was ihr zuvor alles gemacht habt: Er wird es nicht können.
Er ist sich im laufe der zeit neu bewusst, aufgrund der erfahrungen, die er selber sammelt, die eindrücke und gefühle, die er erfährt.

Das ist die grundvorraussetzung fürs "ich" - gefühle erfahren

Und nun nimmt man einen Computer mit den selben vorraussetzungen wie diesen leeren körper.
Man beginnt ihn mit daten zu füttern.
Der computer "lernt" in dem sinne sein umfeld kennen.
er kann (fals er sprechen kann) auf fragen antworten, sofern er die antworten zuvor genannt bekommen hat.

Während aber der neue menschauf die frage: "was hast du nach dem aufstehen gemacht" antworten kann: "Ich habe den sonnenaufgang beobachtet"

Kann man dem computer zwar fragen:"Wann ist die sonne aufgegangen?" und er nennt eine exakte zeit, und kann sicher aucherklären, was ein sonnenaufgang ist, aber er kann ihn nicht begreifen.

Den um, beispielsweise, den sonnenaufgang nicht nur als astronomisches phänomen wahrzu nehmen braucht es gefühl.
Und eine KI ist erst dann eine KI, wenn sie real fühlt.

Den was Biologische lebewesen von maschienen unterscheidet ist in erster linie die enzyme , die chemischenverbindungen die gefühle erzeugen. Gefühle, die reagieren und agieren lassen.

Klar. man kann einem computer beibringen, gefühl nachzuahmen. aber er wird nie begreifen, was er da tut.
Und darum geht es auch: Ums begreifen.

Zum begreifen braucht man emotionen. eine blose kopie eines gehirns (sollte es denmenschen tatsächlich mal gelingen) wird nichts weiter bleiben als eine leere festplatte, die gefüllt werden kann mit informationen.
Programme mit algerythmen können dafür sorgen, das der computer mit all diesen informationen jongliert. auf entsprechende aktionen antsprechende programme ausführt aufgrund von sensoren, die ihm zeigen, was geschieht.

Aber auch das ist nicht inteligent. es ist nur programiert.

EIne KI braucht gefühle um zu begreifen. Dann ist sie sich selbst bewusst.
dann kann sie anfangen zu probieren, sich selbst zu suchen, was es lernen will, kombinieren, entscheiden und verstehen.
Solange das aber nciht gegebenist, ist alles sturr und starr wie dieser Roboterjunge in dem Film.

(Auch wenn dieser (vorprogramierte) gefühl-imitate hatte.
Er reagierte halt auf das was im umfeld geschah mit dem, was manihmsagte, wie man zu reagierenhat)

[Komodo]

Aber auch das ist nicht inteligent. es ist nur programiert.

Sind wir nicht auch programmiert? Programmiert von den Genen, die festlegen, wie das Gehirn wächst, von den Dingen die wir erlernen, und von unseren Erfahrungen?
Geprägt, beeinflusst, programmiert, das ist doch alles ähnlich.

Ich denke, Gefühl und Bewusstsein gehen Hand in Hand. Je höher der Grad des Bewusstseins, umso höher der Grad der Gefühle. Die Gefühle dinene ja tatsöchlich des Begreifens, des Begreifens des Anderen. Und wenn es andere gibt, gibt es dann nicht auch mich?

Er reagierte halt auf das was im umfeld geschah mit dem, was manihmsagte, wie man zu reagierenhat)

Sind wir da anders? Wir Reagieren doch auch, nur haben wir ein ungemein größeres Kontigent an Entscheidungsmöglichkeiten, und die Möglichkeit, neue zu kreieren.

So groß sind die Unterschiede nicht. Es ist nur schwer.

[Galax]

aber lass das mal ner maschiene selbstständig machen ^^

[Bynaus]

Selbst wenn man diesem neuen mensche erzählt, was ihr zuvor alles gemacht habt: Er wird es nicht können.

Ich versteh schon worauf du hinaus willst. Ich glaube aber nicht, dass dies medizinisch wirklich geschehen kann: ein Gehirn, das alles vergisst, was es jemals konnte, ist so zerstört, dass es sich nie mehr erholen kann. Ich hätte noch nie von einem Fall gehört, in dem jemand alles vergessen hat und ganz von neu Anfangen muss, dh, es gibt schon Leute, die alles motorische neu lernen müssen - aber sie erinnern sich alle Bruchstückhaft an ihr früheres Leben. Umgekehrt gibt es Leute, die ihre Erinnerung verloren haben, aber die motorischen Fertigkeiten behalten haben - beides zusammen gibts AFAIK nicht. (aber darum gehts ja gar nicht)

Kann man dem computer zwar fragen:"Wann ist die sonne aufgegangen?" und er nennt eine exakte zeit, und kann sicher aucherklären, was ein sonnenaufgang ist, aber er kann ihn nicht begreifen.

Dein Bild von KI ist stark von Sci-Fi beeinflusst. Aber überlegs dir mal genereller: warum soll ein Computer nicht das gleiche können wie ein Mensch? Man könnte ein mehr oder weniger menschliches Gehirn simulieren - oder auch von ganz neuem Aufbauen. Unsere heutigen Computer sind kein Beispiel für KI, noch nicht einmal für SI (simulierte Intelligenz), sondern bloss Beispiele für Rechengeschwindigkeit und guten Programmierfähigkeiten.

Was sind denn diese "Gefühle" wirklich? Nicht einfach chemische Verbindungen: sondern die totale körperliche Reaktion auf ein äusseres Ereignis. Gefühle finden in unserem Gehirn statt, sind quasi "Ereignisse", komplexe Serien und Abfolgen von Feuerbefehlen im ganzen Gehirn - in der Sprache der Computer ausgedrückt, ein Algorithmus. Auch ein Computer, eine KI kann "Gefühle" haben, es wären spezielle Algorithmen, die eine bestimmte Reaktion auf äussere Ereignisse steuern.

[J_T_Kirk2000]

Wenn man einer KI beibringen kann , sich selbst bewußt zu sein , zu lernen , zu verstehen und zu fühlen , auch wenn lediglich Subroutinen all das bewerksetlligen können , anstatt beispielsweise Enzyme , dann muß man dieser KI auch die gleichen STellenwerte einräumen , wie einer biologischen , intelligenten Lebensform , denn anderenfalls wird sie bald merken , daß sie in einer Sklaverei gehalten wird und wenn sie das merkt , wird sie über kurz oder lang etwas dagegen unternehmen , was dann durchaus auch ihr Recht ist .
Jede intelligente Form von Existenz hat das Recht auf Freiheit - nicht nur der Mensch oder biologische Lebewesen .
Wir sehen uns immer als Krone der Schöpfung , aber wie soll das denn beispielsweise von jemandem wirklich akzeptiert werden können , wenn wir viele Dinge der Natur noch nicht einmal annähernd verstehen können , obwohl sie dennoch existieren ?
Demnach wäre , sofern man daran Glauben mag , nur eine Existenzform die wirkliche Krone der Schöpfung und das wäre Gott , der welcher die Schöpfung erschaffen hat .

[Skymarshal]

Da kann ich mich Komodo nur anschließen. Der Vergleich mit dem Kind aus A.I. hinkt doch gewaltig. Es ist zwar eine Maschine die sich streng an Regeln hält. Oder doch nicht weil sie sich "selbstständig" auf die Suche nach ihrem Schöpfer macht(wurde nicht vom Programm festgelegt). Aber wir halten uns auch an Regeln und Normen. Außerdem sind wir durch unsere Gene und Umwelt "programmiert". Wir unterliegen andauernd irgendwelchen Festlegungen, Beeinflussungen oder Manipulationen.

Eine "echte" KI mit guter Sensorik interagiert auch mit seine Umwelt. Und sie ist auch in der Lage abstrakt, selbstständig und kreativ zu denken.

Verhaltensregeln für Maschinen sind für unseren Schutz da. Und nicht um die KI zu verdummen.

Auch ein Computer, eine KI kann "Gefühle" haben, es wären spezielle Algorithmen, die eine bestimmte Reaktion auf äussere Ereignisse steuern.

Da wäre nur die Frage ob es echte Gefühle sind oder Gefühle emuliert(oder simuliert) werden.

Wie gesagt sind Gefühle beim Menschen erfahrungsbedingt. Empathie funktioniert auch nur wenn man wirklich Gefühle erlebt hat und keine Emotionsstörung im Kopf vorhanden ist.

Bei Soziopathen ist das oft verkümmert und deswegen können sich nicht in andere Menschen einfühlen. Sie kriegen Adrenalinschübe wenn sie Gewaltbilder sehen etc.

[Quantensprung]

Es entsteht ein völlig neuer mensch, der alles neu erlernen und entdecken muss. Und das in eurem körper! Ihr selbst werden davon nichts mitbekommen.

Oh doch man würde es mitbekommen:
"Wissen" ist nicht übertragbar, weil es einfach weg wäre sobald es das Gehirn verläßt. Das was dann in's leere Gehirn eingespeißt würde wäre nur Kauderwelsch, das dieses niemals entschlüsseln kann weil ihm die entsprechenden synaptischen(?) Bahnen fehlen. Außerdem wären die beiden Gehirne (und die Personen) vom "Wesen" nach verschieden, was den Unterschied ergibt auf welche Weise sie in exakt der gleichen Situation reagieren - zumindest würden sie anders darüber denken auch wenn die "Handlung" die gleiche wäre. Eine konkrete Erfahrung aus einer konkreten Situation herraus würde der neue Mensch nicht begreifen, weil er sein Handeln - von damals - nicht nachvollziehen könnte. Er hätte zwar auch die Information was er darüber gedacht hat, aber er könnte diese Gedanken nicht als sein Eigentum ansehen, weil ihm dafür wiederum die entsprechenden Gefühle (zu denen jedesmal auch eine entsprechende körperliche Reaktion nötig war die der Körper "speichert") fehlen. Der neue Mensch wäre eine gespaltene Persönlichkeit: eine dumme und eine intelligente Person in einem. Er würde 'Jack' (die Person dessen Intelligenz eingespeißt wurde) hassen und ihn aus seinem Körper vertreiben wollen, weil er genau wissen würde daß er nicht Jack ist, aber ihn etwas zwingt wie Jack zu handeln. Es wäre nicht sein eigen so zu denken wie Jack und all seine Erfahrungen wären 'böse Träume'.

[Galax]

öh.. nö.

(auch wenn das jetzt offtopic ist)

vergleichbar mit der formatierung einer festplatte und neuaufspielen eines anderen Betriebssystems.

wenn vorher windoof drauf war und nun linux drauf ist, wird Linux auch nicht mitbekommen, das vorher windoof drauf war.

Zu den gefühlen:

Wenn man wirklich entschüßelt hat, welche enzyme wann und wobei produziert werden, wieviel man braucht, und welche chemische suppe da alles drinn steckt, das ganze dann syntetisiert und einem Computer analysieren lässt, der von der programierung her weis, wie er auf eine bestimmte enzymzusammensetzung zu reagieren hat, dann kann er "fühlen"

bzw "weis" wie er fühlen und reagieren muss
jo.

Aber wie soll das möglich sein?
Und wird er weinen, wenn er sieht, wie ein andere computer formatiert wird?

[Skymarshal]

Wie Bynaus es schon sagte ist die Analogie doch fragwürdig. Ein Mensch sein Gedächtnis läßt sich nicht komplett löschen. Selbst bei einer Amnesie nicht.

Das Gehirn ist nie ganz "leer". Selbst als Baby nicht. Also verstehe ich diesen komischen Vergleich nicht.

Und warum man vom lernen nichts mitbekommt ist ebenso komisch...

Es ging ja auch eher ursprünglich um das umgekehrte Beispiel: Das Gehirn wird gescannt und seine ganzen Schaltzustände auf einen Rechner übertragen.

Aber das ist noch weiter davon entfernt was man unter heutiger KI-Entwicklung versteht.

[J_T_Kirk2000]

An Galax :

Ich weiß nicht , was Du an Windows so "doof" findest , aber wir solten hier dennoch bei den wirklichen Begriffen bleiben und diese nicht mit Metaphern oder Meinungen ausschmücken .
Im Übrigen verwende ich Windows XP Professional und habe , seit ich dieses Betriebsystem verwende keine wirklichen Computerprobleme .
Falls dem aber doch mal so ist , kann ich es jederzeit mit einer Systemwiederherstellung beheben .
Ich weiß nicht , wie es ei Linux ist , aber ich bin mit Windows XP voll und ganz zufrieden .

Ein Gedächtnisverlust kann zwar in der Tat eine neue Persönlichkeit in ein und derselben Person ermöglichen , aber ich denke doch , daß man das nicht mit der Formatierung einer Festplatte vergleichen kann .
Der Mensch nutzt reell nur etwa ein Zehntel seiner Gehirnkapazität .
Das bedeutet , daß die vor einem entsprechend traumatischen Erlebnis gespeicherten Erfahrungen , durchaus noch im Gedächtnis vorhanden sind , aber lediglich der Zugriff entweder vorübergehend oder auf Dauer nicht für das Wachbewußtsein verfügbar sind , aber dennoch Teil der träume sein können .

[Quantensprung]

vergleichbar mit der formatierung einer festplatte und neuaufspielen eines anderen Betriebssystems.

Ganz extremes Beispiel:
Wir "formatieren die Festplatte" und spielen 'Mohamed Ali' drauf. Der neue Mohamed Ali wird nicht der gleiche sein und garantiert nicht so gut boxen können, weil sein Körper niemals die Strapazen von Profikämpfen durchlebt hat. Er ist weder trainiert noch hat er jemals einen Kampf bestritten. Der Körper ist genau so "dumm" wie das Gehirn, wie überträgt man DIESES Wissen? Wenn der neue Mohamed Ali zuschlägt wie es ihm sein Gehirn vorgibt dann bricht er sich die Hand, weil sie nicht durch Training "geformt" wurde einen Schlag auszuhalten. Immer wenn 'Muhamed Ali' allgemeine Dinge tut wird es der neue Körper womöglich nicht mitmachen und Signale ans Gehirn senden "nee so geht's nicht". Der 'programmierte Ali' wird also sein Wissen auf seinen Körper abstimmen müssen und einen Großteil garnicht nutzen können.

[Galax]

das man ein gedächniss nicht komplett leer bekommt steht ja auch garnicht zur debatte.
es war n beispiel.
ich hätte genauso das ausleeren einer mülltonne nehmen können, und erklären können, der neue müll der reinkommt is ned der selbe.
nun hängt euch ned alle andiesem beispiel auf.

aber anhand einer leeren mülltonne erklärt es sich halt schlecht, was das bewusstsein ist, und wie es entsteht.

und das sky das ned versteht, wundert mich garned ^^
aber er darf sich freun, ist ja ned der einzigste
Mir ist durchaus bewusst, das man auch kein "Mohamed Ali " oder andere persöhnlichkeiten in nen leeres gedächniss kopieren kann (wie kommst du auf die idee?? - wortklauberei an einem beispiel?)
das war weder aussage, noch bestand meines beispiels.
erstaunlich, was hier einige so alles in texte hinein interpretieren können
irgendwie scheint ausser bynaus keiner das beispiel so recht kapiert zu haben.

und nun wieder zurück zum topic:
Kann man ein künstliches bewusstsein erschaffen, welches sich selbst bewusst ist.

(Und ich nenne jetzt kein beispiel )

[Quantensprung]

wortklauberei an einem beispiel?)

Nein.

das war weder aussage, noch bestand meines beispiels.

Die Aussage meines Beispiels (daß auf deinem aufbaut - ohne eine Erlaubnis dafür eingefahren zu haben ) sagt eigentlich nur aus, daß Persönlichkeit und Wissen mehr ist als 'Daten in einem Gehirn'. Ein Mensch besteht aus mehr als nur seinem Gehirn oder dem was man 'Geist' nennt.......

Kann man ein künstliches bewusstsein erschaffen, welches sich selbst bewusst ist.

........deshalb beantworte ich diese Frage für mich mit 'nein'. Die "Vorraussetzungen" dafür sind von Menschenhand nicht zu "schaffen".

[Bynaus]

Kann man ein künstliches bewusstsein erschaffen, welches sich selbst bewusst ist.

Auf jeden Fall. Wenn Bewusstein (plöhdes Wort - eigentlich hohe Intelligenz, IMHO) in der Natur durch zufällige Prozesse entstehen konnte, kann es natürlich auch künstlich gemacht werden (die Frage ist bloss, wie lange das noch dauert). Die erste Version wird eine Kopie der Natur sein (wie mit allen technischen Geräten, die der Natur abgeschaut werden), doch je länger man mit dieser "arbeitet", desto mehr Variationen und Verbesserungen wird es geben.

[Skymarshal]

das man ein gedächniss nicht komplett leer bekommt steht ja auch garnicht zur debatte.
es war n beispiel.
ich hätte genauso das ausleeren einer mülltonne nehmen können, und erklären können, der neue müll der reinkommt is ned der selbe.
nun hängt euch ned alle andiesem beispiel auf.

Vor allem war dein Beispiel unangebracht weil es gar nicht darum ging.

aber anhand einer leeren mülltonne erklärt es sich halt schlecht, was das bewusstsein ist, und wie es entsteht.

Wenigstens etwas Einsicht.

und das sky das ned versteht, wundert mich garned ^^
aber er darf sich freun, ist ja ned der einzigste

Guck mal ich freue mich:

irgendwie scheint ausser bynaus keiner das beispiel so recht kapiert zu haben.

Und du hast Bynaus nicht verstanden. Sonst hättest du nicht weiter solche verwegenen Analogien verwendet.

und nun wieder zurück zum topic:
Kann man ein künstliches bewusstsein erschaffen, welches sich selbst bewusst ist.

Bei Fragen setzt man ein Fragezeichen....

Ich denke schon. Ist nur eine Frage der Zeit. Die Entwicklung der KI´s wird vorangehen. Und das Bewußtsein(da bin ich mit Bynaus einer Meinung) ist vom Grad der Intelligenz abhängig.

Bei künstlicher emotionaler Intelligenz bin ich allerdings skeptisch. Gründe hatte ich genannt.

(Und ich nenne jetzt kein beispiel )

Wenigstens das ersparst du uns!

@Quantensprung: Unser Gehirn und unsere Persönlichkeit ist ein Produkt aus Genen, Umwelt - und Körperinteraktionen. Besonders mit dem Körper gebe ich dir Recht.

Aber ein künstliches Bewußtsein könnte zumindest irgendwann ähnlich funktionieren. Ohne Emotionen eben. Dazu zählt ja auch Körpergefühl(einschließlich Rückmeldungen). Aber dafür mit Reflektionsvermögen.

plöhdes Wort - eigentlich hohe Intelligenz, IMHO

Du hast den historischen Kontext diese Begriffes immer noch nicht verstanden. In die Ecke und schämen...