Asimovsche Gesetze und Prügel vom Robbie

[Dessler]

In Slowenien werden jetzt Roboter gebaut, die auf Kommando Leute verkloppen. Wie das doch gleich mit dem 1. Asimovschen Gesetz...?

[Prot]

Cool, die bauen K-2 Bots

K-2 ? Perrypedia

[logman]

In Slowenien werden jetzt Roboter gebaut, die auf Kommando Leute verkloppen. Wie das doch gleich mit dem 1. Asimovschen Gesetz...?

Zwei grundsätzliche Dinge zu den Robotergesetzen.

Heutige Roboter können nicht nach Asimov programmiert werden, denn diese Grundprogrammierung setzt voraus das die Maschine den Grips hat einen Menschen von einem Ding zu unterscheiden, und eine Vorstellung hat woran an ein Mensch Schaden nehmen könnte. Davon sind wir immer noch mindestens Jahrzehnte entfernt.

Es ist ein Trugschluß das eine Programmierung nach Asimov automatisch JEDEN Menschen einschließt. Eine solche Grundprogrammierung kann überhaupt nur dann funktionieren wenn Abstriche gemacht werden. Wenn mehrere Menschen in Gefahr geraten, welchem Helfen und welchen nicht? Wenn ein Mensch Anweisungen erteilt, ist diesen überhaupt Folge zu leisten? (Festgenommener und Polizeitroboter, Einbrecher und Haushaltshilfe, Kampfroboter im Einsatz gegen feindliche Truppen).
Eine solche Grundprogrammierung soll verhindern das sich die künstliche Intelligenz gegen ihren Schöpfer oder ihren Besitzer wendet. Welchen erweiterten Personenkreis zusätzliche Rechte eingeräumt werden liegt dann im Ermessensspielraum des Schöpfers/Benutzers.

[HMS Fearless]

Die Asimovschen Gesetzte verlangen von einem Roboter eine KI, welche von den heutigen Möglichkeiten noch Lichtjahre entfernt ist.
Asimov auf die heutige Robotik zu übertragen, wäre etwa so als würde man ISO Normierung auf Feuersteinwerkzeuge der Steinzeit anwenden.

[2of7]

Asimov auf die heutige Robotik zu übertragen, wäre etwa so als würde man ISO Normierung auf Feuersteinwerkzeuge der Steinzeit anwenden.

*ggg*

Ich stell mir grad ein TÜV-Siegel (oder vergleichbares) auf nem Steinzeitbeil vor.

SCNR

[odem]

Ich muss in gewisser Weise meinen wiedersprechen.
Eine absolute KI ist nicht notwendig um diese Gesetze auch umzusetzen.

Nehmen wir z.B. eine einfache Aufzugtür. Sie ist so gebaut, dass sie keinen Menschen verletzen darf. Der selbe Mechanismus soll auch eine selbstbeschädigung des Aufzugs verhindern und die Tür gehorcht natürlich auch unseren Befehlen...

Und auch die bisher entwickelten Roboter berücksichtigen diese Regeln, sofern die dazugehörigen Sensoren verbaut wurden.
Nur sind diese Mechanismen nicht direkt mit einem logischen "Denkvermögen" der Maschine verbunden.

Ebenfalls sind Maschinen unter Umständen bereits durchaus in der Lage, Menschen zu erkennen und bei manchen auch den Zustand einer Person, sofern diese mit entsprechenden Apparaten ausgestattet ist.
Bei diesen Maschinen wurden die besagten Gesetze auch weitgehend Implementiert (Sofern dies notwendig war)

Es handelt sich hier ja um eine ethnische Richtlinie und nicht um eine notwenige Voraussetung. Bei den Prügelrobotern wird sie aber praktisch nicht verwendet...

Ich gehe auch davon aus, dass bei den zivilen Robotern diese Regeln auch immer tiefer verankert werden, wenn sie denn zum Einsatz kommen (Vorrangig in der Kranken- und Altenpflege); bei den mitlitärisch genutzen Robotern wird man aber wohl auf den ersten Artikel verzichten und die anderen Gesetze auch anders auslegen.

Abgesehen davon sind die drei Gesetzte nicht ultimativ zu sehen, wie uns die Romane des Roboter Zyklus gezeigt haben. Den Sammelband mit den Kurzgeschichten kann ich da sehr empfehlen.

[Alexandermerow]

War doch klar, dass das irgendwann mal kommt...

[keepshowkeeper]

Ich als Robot aus der Zukunft getarnt als Mensch sags ehrlich: Ihr Menschen-Affen habt überhaupt keine Chance die nächsten Jahrzehnte zu überleben, ohne dass wir Logik-Gehirne aus der Zukunft intervenieren.
Und Asimov hats ja nachher mit seinem "Nullten Gesetz" selber eingesehen: Für den Robot gilt es nicht, einen einzelnen Menschen zu retten, sondern die Menschheit!
Stauffenberg z.B. war ein schlecht programmierter Roboter, der in der Zeit zurückgeschickt wurde, der aber teilweise noch nach den alten Asimov-Gesetzen funzte, deshalb hat er seine Bombe falsch platziert. Einerseits sollte er nach dem Nullten Gesetz handeln (Die Menschheit vor Schaden bewahren), andererseits durfte er keinen Menschen verletzen, was er auch nicht geschafft hat. Nun ja, irgendwie ist da was schief gegangen.
Programmiert Eure Robots nicht ganz ohne eigenen Willen, rufe ich Euch Entwicklern aus der Vergangeheit zu!

[Dessler]

Nehmen wir z.B. eine einfache Aufzugtür. Sie ist so gebaut, dass sie keinen Menschen verletzen darf. Der selbe Mechanismus soll auch eine selbstbeschädigung des Aufzugs verhindern und die Tür gehorcht natürlich auch unseren Befehlen...

Asimov selbst hat einmal in einem Essay ausgesagt, dass die drei Robotergesetze eigentlich nur eine Anwendung der Prinzipien seien, denen jedes beliebige menschliche Werkzeug gehorchen muss:

1. A tool must be safe to use. Hammers have handles, screwdrivers have hilts.
2. A tool must perform its function efficiently unless this would harm the user.
3. A tool must remain intact during its use unless its destruction is required for its use or for safety.

[logman]

Ich muss in gewisser Weise meinen wiedersprechen.
Eine absolute KI ist nicht notwendig um diese Gesetze auch umzusetzen.

Nehmen wir z.B. eine einfache Aufzugtür. Sie ist so gebaut, dass sie keinen Menschen verletzen darf. Der selbe Mechanismus soll auch eine selbstbeschädigung des Aufzugs verhindern und die Tür gehorcht natürlich auch unseren Befehlen...

Das erste Gesetz besteht aus zwei Teilen, einem der die Maschine zur Passivität zwingt wenn sie selber zur Gefahr werden würde, und einem der die Maschine zur Aktivität zwingt wenn die Gefahr von beliebiger Seite droht.

Die zweite Hälfte schließt Reaktionen auf nicht vorhersehbare Situationen ein die die Maschine meiner Meinung nicht ohne eigene KI bewältigen könnte.

[odem]

@logman:
Zuallererst wollte ich darauf hinweisen, dass man im algemeinen ein falsches Verständnis für künstliche Intelligenz hat. Jede Maschine die auf einem Computerprogramm basiert handelt intelligent. (Von gewissen Ausnahmen abgesehen) Eine KI muss nicht gleich ein Data (Star Trek) den das ist eine künstliche Persönlichkeit. Und davon sind wir in der Tat noch sehr weit entfernt.
Persönlichkeiten lassen sich zwar schon recht gut emulieren aber die Maschine ist sich ihrer Existenz noch lange nicht bewusst.

trotzdem wären Maschinen bereits in der Lage aktiv eine Gefahr für einen Menschen zu erkennen und entsprechend zu handeln.
Ein gutes Beispiel sind die Autonomen Autos. Sie können erkennen, wenn ein Mensch die Straße betritt und weichen diesem aus, auch wenn sie dadurch selber Schaden nehmen könnten, hingegen wird ein einfaches Hindernis wie eine absperrng in der selben Situation gerammt, wenn sich dadurch die eigenbeschädigung in Grenzen hält.

Der Prozess, wo aus einer Künstlichen Intelligenz eine künstliche Persönlichkeit wird, ist recht schleichend und wir werden uns nur wundern, dass Maschinen immer komplexere Aufgaben bewältigen können.
Und damit dies nicht im Fiasko âla Matrix oder Terminator endet werden im Hintergrund diese Regeln wohl apliziert oder die Maschine künstlich dumm gehalten.

[logman]

trotzdem wären Maschinen bereits in der Lage aktiv eine Gefahr für einen Menschen zu erkennen und entsprechend zu handeln.
Ein gutes Beispiel sind die Autonomen Autos. Sie können erkennen, wenn ein Mensch die Straße betritt und weichen diesem aus...

Erstes Gesetz, erste Hälte: ICH SELBST darf einen Menschen nicht Schaden
Erstes Gesetz, zweite Hälfte: Ich darf nicht tatenlos zusehen, wenn dem Menschen von ANDERER Seite Schaden droht

Das autonome Nichterfassen von Fußgängern im Straßenverkehr ist eine tolle Sache, aber wo erfüllt das autonome Auto die zweite Hälfte?

Ich behaupte weiterhin: mit "einfachen" Programmstrukturen und Sensoren kann man lediglich die Gefahren abdecken die vorhersehbar aus dem Betrieb der Maschine selbst abgeleitet werden können. Damit kommt man nicht über den ersten Part des ersten Gesetzes hinaus.

bei den mitlitärisch genutzen Robotern wird man aber wohl auf den ersten Artikel verzichten

Verzichten nicht, aber entsprechend einschränken.
Bei Kampfrobotern möglicherweise auf die eigenen Truppen und auf Zivilisten.

und die anderen Gesetze auch anders auslegen.

Kein Roboter wird dem zweiten Gesetz uneingeschränkt Folge leisten. Das wäre als würde man seinen Wagen frisch gewaschen, voll getankt, mit laufendem Motor und dem Fahrzeugbrief hintern Scheibenwischer im miesesten Viertel der Stadt abstellen.

[Dessler]

Erstes Gesetz, erste Hälte: ICH SELBST darf einen Menschen nicht Schaden
Erstes Gesetz, zweite Hälfte: Ich darf nicht tatenlos zusehen, wenn dem Menschen von ANDERER Seite Schaden droht

Das autonome Nichterfassen von Fußgängern im Straßenverkehr ist eine tolle Sache, aber wo erfüllt das autonome Auto die zweite Hälfte?

Da habe ich nun die Vision von einem automatisierten Auto (Autoauto?) im Stadtverkehr, das vor einem plötzlich die Straße betretenden Fußgänger nicht mehr bremsen kann, und zwanzig andere Autos stürzen sich spontan drauf, um es aus dem verhängnisvollen Kurs zu rammen.