Kann uns die KI gefährlich werden?

[J_T_Kirk2000]

Ich meinte nur , daß wir vielleicht über unsere eigene Natur nachdenken sollten , bevor wir über eine zukünftige KI dermaßen urteilen .
Die Menschen sind auch nicht gerade das Glanzlicht , wenn es um Gleichberechtigung und Toleranz geht , aber vielleicht hilft uns eine zukünftige KI , uns dermaßen auf unsere Natur zu besinnen , daß wir vielleicht dann über unseren eigenen Schatten springen .
Dies ist aber auch jetzt schon in anderer Hinsicht absehbar , daß wir vielleicht zu neuen sozialen Prinzipien finden , wenn man bedenkt , daß es darum geht , den Arbeitsmarkt wieder stark zu machen und dennoch wissenschaftlichen Fortschritt zu fördern , was durchaus vereinbar ist .

[La-Forge]

genau das ist die philosophie bei kontakt mit außerirdischen... wir erkennen uns selbst und entwickeln uns dadurch weiter... vielleicht ist ja ein "erster Kontakt" zu einer KI naheliegender als mit einer außerirdischen spezies.. auf jeden fall könnte es sehr interessant werden

[J_T_Kirk2000]

Ich glaube allerdings , daß wahrscheinlich für eine KI die Prozessorleistungen für Siliziumschaltkreise wahrscheinlich kaum ausreichend sind .
Sogar die heutigen Prozessoren stoßen doch schon in der Entwicklung immer wieder an Geschwindigkeitsgrenzen .
Für eine KI , die ein vergleichbares Vorstellungs- und Denkvermögen entwickelt , ausgehend von Datenspeicherkapazität und Geschwindigkeit , erreichen können muß , um ihrer angeeigneten Persönlichkeit entsprechend denken , empfinden und handeln zu können , würden demnach kaum Siliziumchips ausreichen .
Wenn man in diesem Bereich also bioneurale Systeme züchtet , sofern man dazu irgendwann in der Lage ist , kann man dann denn noch von einer KI sprechen ?
Immerhin ist diese dann ebenfalls eine biologische Entität und bei Erreichen von einer Persönlichkeit , also einem eigenen Bewußtsein , sogar eine biologische Identität , wenn ich da jetzt nichts durcheinander bringe .

Allerdings ist die Möglichkeit eines Erstkontakt mit einer außerirdischen Art gar nicht so unmöglich , wenn die Zeit gekommen ist .
Es ist wohl eher unwahrscheinlich , daß unsere Zivilisation die einzige im Universum oder auch nur in unserer Galaxie ist .
Auch werden wir sicherlich nicht die fortschrittlichste oder älteste Zivilisation , aber ebenso bestimmt auch nicht die jüngste .
Bei unseren noch sehr lückenhaften naturwissenschaftlichen Erkenntnissen über das Universum können wir bisher nur über erreichbare Geschwindigkeiten und die Möglichkeit und Häufigkeit anderer Zivilisationen spekulieren .
Dennoch werden aber zumeist die eher pessimistischen Ansichten bezüglich der Anzahl von extraterrestrischen Zivilisationen und deren Triebwerkstechnologien vertreten , obwohl es keine Beweise für Optimismus oder Pessimismus gibt .
Vielmehr sprechen lediglich Indizien für die pessimistische Ansichtsweise , aber es gibt zumindest angeblich auch Indizien für eine entsprechend optimistische Sichtweise .

[Kilana]

... aber ich denke sobald sich 2 Spezies untereinander verständigen könnten, wird eine KO-Existens möglich...zumindest bei einer aufgeklärten/fortschrittlichen gesellschaft und das sind die menschen zum teil immer noch nicht

Das setzt allerdings voraus, das eine KI und die Menschen die mit ihr kommunizieren wollen eine gemeinsame Verständigungsmethode haben und selbst wenn diese Verständigungsmethode vorhanden ist, kann es trotzdem sein, dass keine wirkliche Verständigung zu stande kommt, weil die Standpunkte zu unterschiedlich sind. Der Mensch denkt nunmal ebensowenig in 0 und 1 wie eine KI in menschlichem Format. ...Selbst wenn diese Verständigungsbasis in der Programmierung eingeplant ist, heißt dies nicht, dass es auch ohne weiteres funktionieren wird. Selbst bei nicht intelligenten Programmen treten heutzutage des öfteren "Ergebnisse" auf, die nicht direkt einprogrammiert waren.

[La-Forge]

@ kirk... wenn man neurale bahnen im gehirn nimmt, dann sind die um einige größenordnungen langsamer als das menschliche gehirn.. das was die heutige silizium-technologie an den rand bringt ist die größe bzw. die winzigkeit der transistoren.. die sind mittlerweile so klein das die wahrscheinlichkeit für den tunneleffekt nicht mehr vernachlässigbar ist... bei der speicherkapazität sind wir bald in der lage 1 Terrabyte in einem 1 cm³ großen würfel zu verstauen also wenn man also mal das volumen des gehirns nimmt kommt da schon einiges an speicher zusammen...ein weiteres manko der derzeitigen computer ist die organisation... ein prozessor hat meißt absolut geniale Spitzenwerte.. problem an der sache diese spitzenwerte würden bloß erreicht werden wenn in der Pipeline (ein Konstruktionsprinzip) ständig gefüllt ist, und das ist eben nicht der fall...
bspw.: ein normaler prozessor benötigt mindestens 700 Takte zum umschalten von einem miniprogramm (threat) zum anderen und das sind ideale werte...das klingt nicht viel wenn man bedenkt das ein prozessor um die 3 mio takte in der sekunde hat.. für einen informatiker ist es aber die reinste hölle mit anzusehen das der Prozessor im leerlauf ist...

bei deinen bioneuralen schaltkreisen wird das noch schwieriger weil deren übertragungsrate nicht mit nahe c abläuft wie in heutigen prozessoren, wobei c für informatiker auch schon wieder eine kritische größe ist.. einfach zu langsam. im gehirn werden die informationen mit ionen übertragen, und die können lannge nicht so schnell sein wie elektronen


wenn es darum geht zu entscheiden ob es anderes inteligentes leben gibt.. egal ob nun optimistische oder pessimistische ansicht dann finde ich einen satz aus dem film Contact ziemlich passend: "wenn wir die einzigsten wären, wäre das ne ziemliche platzverschwendung"

@kilana: wenn 2 verschiedene Personen (es müssen ja nicht einmal verschiedene spezies sein) miteinander kommunizieren wollen, dann finden sie immer einen weg.. sei es das der eine die sprache des anderen lernt oder das sie sich auf eine gemeinsame sprache einigen.. die disskussion der einzelnen standpunkte ist ein ganz anderes thema

das mit den "unerwarteten ergebnissen" ist bei den heutigen rechnern so eine sache...je mehr zeilen code ein rechner braucht um ordentlich zu funktionieren desto mehr kann schief gehen.. bei Windows XP sind es glaube 11-15 mio zeilen code nur damit das betriebssystem läuft, und da hast du noch keine Treiberunterstützung und ähnliches... diese zu überprüfen ist schwierig denn du kannst ja einem rechner zwar erklären wie er was zu überprüfen hat, dann prüft er ob das programm genau das macht was es soll.. nur leider ist "leicht komplex".. ein weiteres problem ist wenn man teile von programmen verwendet die zweckentfremdet werden... dann kann man schlecht fehler ausschließen

[J_T_Kirk2000]

An La-Forge :

Ich glaube hinsichtlich Deines Zitats aus dem Film "Contact" , habe ich Dir zumindest , was den Sinn Deines Zitats betrifft , schon im Vorfeld zugestimmt , auch wenn es bei mir auch nur eine Vermutung oder Glaubenssache ist .

Hinsichtlich der neuralen Bahnen liegt deren Limit wohl kaum unterhalb der Leistungsgrenze eines Siliziumchips .
Immerhin besteht unser Gehirn genau genommen ebenfalls nur aus solchen neuralen Bahnen und dennoch bringt es noch einiges mehr zustande , als das , was einem Computer möglich ist oder in absehbarer Zeit möglich wird .
Im Übrigen wage ich doch sehr zu bezweifeln , daß man in abesehbarer Zeit ein Terrabyte auf ein Siliziumvolumen von 1cm³ speichern kann , wenn dies dann als Arbeitsspeicher taugen kann , also schnell genug dafür arbeiten kann .
Als Festplattenspeicher wird dies vielleicht bald möglich sein , denn wir sind ja mittlerweile schon im mehreren-hundert-Gigabyte-Bereich für Festplatten , aber wenn ich mir die maximalen Leistungen von heutigen Arbeitsspeichern anschaue , die ebenfalls relevant für ein Denkvermögen , Vorstellungsvermögen , Sinneswahrnehmung und das Bewußtsein selbst sind , während die Festplatte eigentlich mehr für die Speicherung von Erfahrungen , Unterbewußtsein und Subroutinen in diesem Fall zum tragen kommt .
Wieso war es denn so schwierig , einen Intel Pentium 4 Prozessor zu entwickeln , dessen reelle Taktfrequenz 4 Gigahertz erreichen soll ?
Da sieht man die Limits einer Siliziumschaltung schon sehr deutlich .

[Skymarshal]

@La Forge&Kirk: Bioneurale Netze haben ihre Vorteile in den parallelen Abwicklungen von Prozessen und nicht in der Speicherkapazität oder reiner Rechengeschwindigkeit. Bzw. durch die Paralellität wird das extrem kompensiert.

Kein Hochleistungsrechner der Welt kann soviele Dinge gleichzeitig berechnen.


Also das Geheimnis sind parallele Strukturen.

Deswegen halte ich die reinen Vergleiche mit Festplatten und herkömmlichen Computern von heute für falsch.

Während das Gehirn zur massiven Parallelverarbeitung in der Lage ist, arbeiten die meisten heutigen Computersysteme nur sequentiell bzw. partiell parallel (sog. Von-Neumann-Architektur eines Rechners). Es gibt jedoch auch erste Prototypen neuronaler Rechnerarchitekturen, sozusagen den Neuronalen Chip, für die das Forschungsgebiet der KNNs die theoretischen Grundlagen bereitstellt. Auch dabei werden die tatsächlichen physiologischen Vorgänge im Gehirn jedoch nicht nachgebildet.

Man stellt KNNs damit explizit den natürlichen neuronalen Netzen gegenüber, welches Modelle von Nervenzellverschaltungen im Gehirn sind.

Quelle:Wikipedia

[AL Freak]

@ Kirk
Doch. Das mit dem Terabyte auf 1 cm³ ist wahr. Das hat man gerade an der Uni Münster entwickelt. Es ist aber keine normale Festplatte, sondern ein optischer Speicher. Auf diesem werden mit Photonen die Informationen gespeichert. Und da das Lesen nicht mehr Bit für Bit erfolgt, sondern die gesamte holographische Information ausgelesen wird, hat diese Technik einen Datendurchsatz von 6 GB/s. In 5 Jahren wollen sie die ersten Prototypen rausbringen und in 10-20 Jahren soll es en masse produziert werden. Vielleicht hat damit die Ablösung der Elektronik durch die Photonik begonnen.

[La-Forge]

@ Kirk:

Immerhin besteht unser Gehirn genau genommen ebenfalls nur aus solchen neuralen Bahnen und dennoch bringt es noch einiges mehr zustande , als das , was einem Computer möglich ist oder in absehbarer Zeit möglich wird .

bioneurale netze sind langsamer in der übertragung... ich glaube bei nervenzellen sind es 3 - 5 m/s (keine garantie auf diesem wert, aber er wird nicht um etliche größenordnungen daneben liegen). der unterschied ist, wie skymarschall schon gesagt hat die paralelle verarbeitung... die (Desktop)- rechner sind so aufgebaut das es eine zentrale verwaltung, die CPU, gibt und die muss für alle aufgaben gerüstet sein. im gehirn sind die einzelnen bereiche mehr oder weniger von einander getrennt... im prozessor gibt es zwar auch einzelne bereiche für bestimmt aufgaben, wie Floatingpoint und Integeroperationen, die zum teil paralell laufen können, aber sie haben einen Großen nachteil.. ihre ergebnisse werden in universelle speicherplätze gespeichert, die sogenannten register. dies hat vor und nachteile.. vorteile man weiß immer wo sich bestimmte ergebnisse befinden, GROßER Nachteil an der sache ist das wenn du ein register zu früh oder zu spät überschreibst machen die nachfolgenden operationen müll. Normale programme müsse eben nicht nur zwei werte nehmen, die mit einer bestimmten operation verarbeiten und fertig, sondern diese neuen ergebnisse werden wieder benötigt und du kannst dir sicher vorstellen wie eine der nächsten operationen in die hose geht wenn ihre Daten bzw. falsche daten geliefert werden die dann verarbeitet werden....

desweiteren hat eine heutige (und soviel ich weiß auch die in letzterer vergangenheit also ab nem 286er vllt. sogar schon früher) eine Alu (arythmetic logic unit) die 2 eingänge (von einzelnen flags mal abgesehen) und einen ausgang, d.h. es kann immer nur ein ergebniss aus 2 eingabewerten ermittelt werden.. höhere operationen werden in mehrere operationen eingeteilt. im realen leben hängt eine entscheidung meist nicht nur von 2 faktoren ab.... im prozessor arbeitet man also mit mehreren operationen und die können sich ins gehege kommen.. alles eine frage der organisation

Im Übrigen wage ich doch sehr zu bezweifeln , daß man in abesehbarer Zeit ein Terrabyte auf ein Siliziumvolumen von 1cm³ speichern kann , wenn dies dann als Arbeitsspeicher taugen kann , also schnell genug dafür arbeiten kann .

das einzigste was einen informatiker bei der abarbeitung von aufgaben interessiert ist die Latenz.. also die zeit zwischen anfrage eines "Datums" bis das ergebniss kommt... wenn du es also schaffen würdest eine festplatte mit zugriffszeiten eines arbeitsspeichers zu bauen, wäre arbeitsspeicher nicht mehr nötig. leider hat sich auch der arbeitsspeicher mittlerweile als zu langsam herraus gestellt und es wurden kleinere aber noch schnellere Speicher eingeführt.. die sogenannten Caches, und selbst die sind teilweise noch zu langsam (Direct mapped Cache)...

im übrigen hab ich nie behauptet das dieser optische speicher den ich richtiger weise gemeint habe als RAM dienen kann... er hat zwar nette datenraten, aber ich fürchte deren latenz ist grottenschlecht.

der P IV selber hatte eigentlich keine schwere geburt.. er ist halt eine Technologiestufe weiter...
die 4 GHz-realisierung hatte andere schwächen z.B. die leistungsaufnahme, wärme, EM-verträglichkeit,...
Intel hatte immer die philosophie "mehr leistung durch höhere taktung", leider führt das immer mehr in eine sackgasse... theoretisch könnten die einen prozessor mit 10 GHz bauen.. nur der würde dann nicht sehr ineffizient arbeiten und du könntest die heizung im winter auch abstellen bei offenem fenster...
AMD dagegen hat sich etwas gedanken um die organisation innerhalb des prozessors gemacht.. fazit: gleiche leistung bei weniger takten und so langsam kommt intel auch auf diese idee...

das problem der Silizium-technologie ist das die transistoren mittlerweile so klein sind das der Tunneleffekt nicht mehr zu vernachlässigen ist (hab ich glaube schon erwähnt)

@ Skymarschall

die Heutigen spuercomputer sind multiprozessorsysteme bei denen es theoretisch möglich ist auch mehrere aufgaben nebeneinander zu verarbeiten aber das große problem ist (wieder mal) die organisation... bsp. Prozessor 1 braucht ein ergebniss was prozessor 2 berechnet... also wartet CPU1 auf CPU2, inzwischen will CPU3 CPU4 etwas schicken und blockiert damit die leitung... da die lichtgeschwindigkkeit nun mal leider eine naturkonstante ist wird die leitung blockiert und CPU2 kann CPU1 nix schicken... wenn du das szenario jetzt auf 64.000 CPUs hochrechnest kannst du dir sicher vortstellen was für ein Chaos da zwischen den einzelnen CPUs herscht.. und das ist nur ein ganz banales beispiel... eine stufe höher ist es wenn eine CPU nicht weiß wo seine daten liegen, also fragt diese CPU alle anderen ab.. und schon gibt es komplettes Chaos...

Also falls einer ne geniale Idee hat wie man die organisation zwischen mehreren CPUs (also mehr als 10) sehr effizient organisiert dann immer raus damit...

übrigens um auf die KI zurück zu kommen.. wie man hier vllt. sehen kann liegt es IMO nicht so sehr an der technik sondern ehr an der organisation in so einem system

[J_T_Kirk2000]

An AL Freak :

Ich habe nicht prinzipiell angezweifelt , daß man 1 Terrabyte auf einen Raum von einem 1cm³ speichern kann , sondern nur , daß dies bei einem Siliziumchip möglich ist , der zudem eine mit der heutigen vergleichbaren Taktfrequenz besitzt .
Einer Festplatte ist dies nur hinsichtlich der Datenübertragungsrate möglich und einem Prozessor oder Arbeitspeicherchip geht es vielmehr um Taktfrequenz statt Speicherkapazität .
Es ist allerdings in der Tat vorstellbar , daß ein bioneurales System oder ein photonischer Chip diese Kapazitäten bei extremen Taktfrequenzen und Datenübertragungsraten erreichen kann , auch wenn es heute kaum für möglich angesehen wird .

An La-Forge :

In der Tat scheinen biologische Signalleiter langsamer zu sein , aber dies trifft nicht unbedingt auf die neuronalen Systeme des Gehirns zu denn diese können jede Sinneswahrnehmung praktisch in Echtzeit wahrnehmen und interpretieren und ganz nebenbei genug Reserven liefern , um zu vergleiche , erkennen , wiedererkennen , lebenswichtige Organe zu betreiben , Muskeln jeglicher Art zu bewegen und unter anderem ein volles Bewußtsein zu ermöglichen .
Soviel zu dem Thema , was ein biologisches System mit welcher Geschwindigkeit und Komplexität steuern kann .
Vielleicht wird ein photonischer Chip (wenn ich AL Freak in dieser Hinsicht richtig verstanden habe) dem menschlichen Gehirn in Verarbeitungsgeschwindigkeit überlegen sein , aber einem Siliziumchip wird dies wohl kaum möglich sein .

[Skymarshal]

@La Forge: Ok. Dann können wir eben die paralelle Effizienz für künstliche Netze noch nicht optimal organisieren. Auch wenn die Hardware dafür theoretisch vorhanden ist.

@Kirk: Nix Lichtgeschwindigkeit!

Die meßbaren Nervengeschwindigkeiten liegen bei einem Gesunden Zwischen 40-70 m/s (150-250 km/h)

Quelle:Neurologie Praxis

Aber es gibt wohl Unterschiede zwischen der motorischen und sensorischen Nervenleitgeschwindigkeit. Letztere betrifft wohl die Schmerzen soweit ich das richtig verstanden habe.

Wie schnell die Neuronensignale im Gehirn(und nicht zu den Muskeln etc.) sind weiß ich nicht. Aber garantiert auch nicht unendlich schnell.

[J_T_Kirk2000]

An Skymarshal :

Von unendlich schnellen Nervenimpulsen in biologischen Nervensystemen habe ich auch nie geschrieben - genausowenig wie von Lichtgeschwindigkeit in diesem Zusammenhang .
Allerdings kann man lediglich in der Computertechnologie die Lichtgeschwindigkeit auf die Energie der übermittelten Daten anwenden , aber ebenfalls nicht auf die Datenübertragungsrate .
Man kann lediglich bestenfalls anhand der Lichtigeschwindigkeit das Limit einer Datenübertragungsrate und Datenverarbeitungsrate eines Siliziumchips oder größerer Zusammenhänge in einem Computer ermitteln , selbst wenn dieser noch in der Entwicklungsphase ist oder noch nicht einmal das .

[Skymarshal]

Ok, du hattest Echtzeit geschrieben. Was auch falsch ist. Bei den menschlichen Verarbeitungen von Informationen sind immer Verzögerungen vorhanden. Bei Computern ist die Geschwindigkeit eindeutig höher.

Aber wie gesagt geht es nicht darum weil der Computer in reiner Signalübertragung(auch durch die hohe Taktung) eh besser abschneidet.

Es geht um die parallele Verarbeitung von Daten. Und will man mal eine KI schaffen die uns ähnelt so muß man die Architektur ähnlich oder genauso strukturieren.

[J_T_Kirk2000]

Allein in der Singalübertragung und Verarbeitung einzelner Operationen ist der Computer unzweifelhaft im Vorteil .
Aber allein der unterbewußte Teil arbeitet selbst im Tiefschlaf noch mit unzähligen "Operationen" ununterbrochen , fährt also in der Anzahl der Operationen , welche gleichzeitig in einem bioneuralen Netzwerk wie dem menschlichen Gehirn stattfinden , nie so weit herunter , wie es einem Prozessoer maximal möglich wäre .
So schnell ein Silizium-Prozessoer auch sein kann , aber seine Stärken liegen in der Verarbeitungsgeschwindigkeit und nicht in der Möglichkeit , mehrere Operationen gleichzeitig durchzuführen .
Man kann aber die Transistoren eines Prozessors mit den Synapsen eines neuralen Netzwerks vergleichen die sich eigentlich nur in den Grundlagen ihrer Funktionen , aber nicht in dem Erfolg ihrer Funktionen unterscheiden .
Während ein Prozessor schon durch seine Effizienz bei hohen Datenübertragungs- oder Datenverarbeitungsraten an Grenzen stößt , ist , meiner Meinung nach , ein bioneurales Netzwerk in seiner Verarbeitungsgeschwindigkeit durch die mögliche Vielzahl gleichzeitiger Operationen lediglich von seiner Komplexität und Versorgung abhängig .

[La-Forge]

wobei wir bei einer wichtigen frage wären.. "wie ist es unserem gehirn möglich ein bewusstsein zu erzeugen??" und "können wir jemals so etwas ähnliches schaffen??"

übrigens da gibts noch so etwas wie schwarminteligenz.. an solchen prozessoren arbeitet man derzeit...was wir aber derzeit noch lernen müssten ist die dezentralisierung unserer netze... im gehirn entscheiden bereiche im rechner zum teil nur einzelne transistoren.. das einzigste was in heutigen desktop-rechnern verteilt ist, ist die CPU und der grafik-chip, vllt noch der soundchip.. der rest, also die ganzen controller und so haben nur verwaltungsaufgaben.. wir müssen also nicht die prozessoren effizienter machen um eine KI zu erschaffen(obwohl das sicher auch gut ist), sondern den aufbau der struktur des ganzen systems neu überdenken.. nur leider würde das ehr in den universitären bereich der wissenschafft fallen, was bedeutet das es noch eine ganze zeit an der realisierung hapern wird..

übrigens Echtzeit in einem computersystem heißt nicht das man wenn man die eingabe daten hat sofort das ergebniss will, sondern das man aufgaben innerhalb eines bestimmten zeitlimits erfüllt haben muss... wenn man es also genau betrachtet ist jeder rechner echtzeitfähig, man darf ihm bloß nicht zu viele aufgaben geben und muss die zeitlimits entsprechend setzen