Wie wird unsere Zukunft aussehen?

[Mondkalb]

Das ist alles richtig, aber auf längere Sicht wird es noch ausreichend sein, eine Fernabschaltung einzubauen, weil wirkliche Intelligenz bei Computern noch nicht mal am Horizont zu erahnen ist.

[Enas Yorl]

Das Kernproblem an diesem Szenario ist, das man eben sehr darauf achten muss, was man der KI wie befielt und worauf die KI eigentlich getrimmt ist (Aufgabe erfüllen oder Belohnung erhaschen), denn es gibt ja oft einen Unterschied zwischen dem, was man sagt oder anordnet, und dem, was man eigentlich will oder sich erhofft.

Ich würde grundsätzlich eine Motivation einbauen, das eine KI regelmäßig eine positive Bestätigung des zuständigen Humanoiden einholt. Das macht man heutzutage auch bei sicherheitskritischen automatischen Regelsystemen (z.B. in der Produktion). Die laufen nicht endlos alleine weiter, sondern verlangen regelmäßig eine externe Bestätigung das alles in Ordnung ist. Kommt die nicht, jammern die ein paar mal, und fahren dann das System in einen Savemodus oder in die Abschaltung.

[burpie]

Interessanterweise liest sich das meiste recht realistisch, da es Teile der Technik bereits heute schon gibt -> http://www.wackynewscast.com/2018/07...es-coming.html