Roboter baut seine eigene Kopie

[Manf]

Ich will das Thema nicht lösen, nur ein paar Gedanken dazu.
Wenn gesagt wird es ist nur noch ein kleiner Schritt, und auch, dass der Weg noch sehr weit ist, dann wohl deshalb weil man als Mensch nicht über den Dingen steht. Man steht halt nur mitten drin und sieht verschiedene Bewegungen aber eine vollständige Beurteilung ist nicht wirklich möglich.

Ich verdeutliche mir das gerne an dem Beispiel der Laborratten, die es tatsächlich geschafft haben ihre Betreuer dazu zu bringen ihnen etwas zu essen zu geben wenn sie einen Knopf drücken. Wie sie es geschafft hatten konnten sie auch nicht mehr sagen, aber es funktionierte. Gesellschaftliches Verhalten funktioniert oft recht einfach nach dem Prinzip “Corporate Identity“. Das mit den Affen und dem Wasser, siehe auch: http://www.svp-thun.ch/alle/zum_tupfer/tupfer.htm

Wenn man sich dann noch das Beispiel der aktuellen Sorge dazunimmt mit der Orson Welles mit seinem Hörspiel von Krieg der Welten 1938 die Hörer überzeugen konnte dass das Ende der Welt gekommen ist, dann könnte man daraus ableiten, dass es viel gefährlicher sein kann die Sorge ernst zu nehmen, weil nur dann, aus Panik, eine gefährliche Überreaktion entstehen kann.

Man kann auch grundsätzlich mit einigem Recht den Standpunkt vertreten, die wahren Gefahren liegen ganz woanders. In der Tat liegen sie wohl immer da wo man sie nicht vermutet. Nachdem wir weiter in den Weltraum sehen können sind es die Kometen die uns bedrohen. Zumindest nach Aussagen von Weltraumforschern die gerne neue Forschungsmittel dafür hätten.

Dass Roboter sich unkontrolliert reproduzieren? Das wird nicht die Hauptgefahr sein, eher, dass die guten alten Viren einen neuen Code erschließen mit dem sie weniger angreifbar sind. Am wahrscheinlichsten ist aber dann wohl noch eine geglaubte Bedrohung der Menschheit die eine Überreaktion auslöst. Das wäre dann der Kontrollverlust an sich, ohne erkennbare Ursache.
Manfred

[recycle]

@Klaus_0168

Ich propagiere jetzt nicht eine Stagnation der Entwicklung als Rettung unserer Gesellschaft. Es gibt noch viele Probleme die gelöst werden müssen.

Das wollte ich dir auch gar nicht unterstellen.

Ich glaube nur, dass man bei einer technischen Entwicklung nicht wirklich von gut und schlecht reden kann, sondern eigentlich nur unterscheiden kann, ob man zu denen gehört die davon profitieren oder zu denen die Nachteile davon haben.

Jede Entwicklung hat doch irgendwie immer auch Opfer gekostet, für Teile der Menschheit Nachteile bedeutet, irgendwelche Schäden verursacht. Vieles wird uns früher oder später auch noch in Form von Langzeitschäden zu schaffen machen (Ozonloch, Waldsterben, Treibhauseffekt, Umweltgifte, Wassermangel, Klimaveränderung, Artensterben ......... )

Von all unseren schönen technischen Errungenschaften hat schon immer nur ein Teil der Erdbevölkerung profitiert - an den Nachteilen und Langzeitfolgen dürfen meist alle teilhaben, sogar diejenigen, die heute noch gar nicht geboren sind.

Bis zur Zündung der ersten A-Bombe hat niemand gewußt, wie viel Energie freigesetzt wird. Alle Berechnungen wurden bei weitem (einige Zehnerpotenzen) übertroffen.

Mag ja sein. Aber sobald bekannt war wieviel Energie tatsächlich freigesetzt wurde, hatte man nichts eiligeres zu tun als die Bomben mal in Japan auszuprobieren und ganz intensiv weiterzuforschen wie man die Atombomben, Wasserstoffbomben usw. noch viel grösser bauen und die radiaoktive Verseuchung auf ein vielfaches steigern kann.
Irgendwo habe ich vor kurzem noch gelesen, dass man bei der Hiroshima-Bombe eigentlich sogar noch eine höhere Sprengkraft erwartet hat.
Ich finde nicht, dass man in Zusammenhang mit der Entwicklung von Atombomben von "Verselbstständigen" reden kann. Vielleicht war man bei der ersten Bombe nocht etwas überrascht, aber die weiteren Schritte wurden sehr bewusst unternommen.

Nuklearenergie kann ein Segen für die Gesellschaft sein, wenn sie mit bedacht genutzt wird. Sich selbst reproduzierende Bot's auch. Es kommt nur auf die Art der Nutzung an.

Oder halt auf den Blickwinkel und die Dauer der Betrachtung.
Den Menschen die in zig km Umkreis um Tschernobyl lebten, immer noch leben oder wieder da leben, hat der Atomstrom wenig Segen gebracht.

Für einen Teil der Erdbevölkerung in den reicheren Regionen der Erde ist es kurzfristig gesehen sicher praktisch, dass wir Dank Kernenergie mit dem Strom rumaasen können und uns jahrelang keine Gedanken über alternative Energien, Energiesparmassnahmen oder auch nur den sinnvollen Umgang mit Strom machen mussten.
Unsere Nachkommen werden strahlende Kraftwerksruinen und tonnenweise quer über den halben Globus verteilten radioaktiven Müll vielleicht nicht ganz so segensreich empfinden.

Das widerspricht natürlich nicht dem, was du sagts. Mit Bedacht genutzt könnte Nuklearenergie vielleicht wirklich ein Segen sein, leider hat nur noch niemand herausgefunden wie man sie mit Bedacht nutzen kann.

Wir sind in einer Entwicklungsstufe, in der sich die Technik gegen uns wenden kann.

In dieser Entwicklungsstufe sind wir aber doch schon, seitdem der erste Mensch entdeckt hat, wie man Feuer macht.

Ich weiss natürlich, was du meinst.
Sollte es irgendwann mal Roboter geben, die wirklich autonom agieren und sich komplett selbstständig reproduzieren können, könnten die auch ausser Kontrolle geraten.
Von ein paar programmierten Würfeln die sich gerade mal selbstständig zu Vierergruppen formieren können, bis dahin ist es verglichen mit anderen Problemen noch ein langer Weg.

Ich glaube da gibt es genügend naheliegendere Gefahren durch bereits existierende Technik über die wir uns erst mal den Kopf zerbrechen müssen.

[Eduard87]

Guten Tag alle zusammen!

Über ein Science Fiction schreckensszenario brauchen wir uns denke ich im Momment noch keine gedanken zu machen. Allerdings denke ich das es dazu kommt das Roboter wie diese in wenigen Jahren schon im Alltag eingesetzt werden. Grade dann wird es schwer zu verhindern sein das sie auch für andere Zwecke eingesetzt werden. Ich denke da zum Beispiel an Terroranschläge, stellt euch vor ein roboter ist programmiert einen virus zu verbreiten. Er könnte sich immer wieder reproduzieren und wäre der perfekte Terrorist.

[tobimc]

Hi!

Naja, unsere programmierer werden hoffentlich aus I,Robot & Co gelernt haben...
Aber klar, man kann die Robbys umprogrammieren, oder selber welche bauen.
Einen kleinen, ferngesteuerten Robby mit ner Bombe kann man aus einem Flugzeug abwerfen, und ihn dann ins Ziel lenken. (Siehe 'Scouts' http://distrob.cs.umn.edu/index.php )
Aber wie lässt sich das verhindern? Antwort: Garnicht.
Denn: Solange es auf diesem Planeten(oder auch ausserhalb) unzufriedene Menschen gibt, wird es immer Kriege, Terroranschläge und dergleichen mehr geben!

Werden irgendwann Roboter denken können?
Antwort: Warscheinlich.
Und wenn es nur eine halbe Milliarde Fallszenarien sind, die der Prozessor jedes mal mit 20GHz(der Prozessor soll ja kommen...) durchsucht, wird es den Anschien haben, dass der Robby denken kann.
Aber mit so nem Prozessor lässt sich ein erheblich komplexeres neuronales Netz bearbeiten, wie man es jetzt kann.

Werden Roboter, die denken können irgendwann (vereinzelt) kriminell werden?
Antwort: Auch warscheinlich
Denn selbst wenn die Warscheinlichkeit dagegen spricht, dass die KI negavit denken wird, so gibt es in Statistiken immer auch Fälle, die entgegen aller Warscheinlichkeit den unerwarteten Wert annehmen.
Und so ist es mit KIs auch. Ein paar werden immer durchdrehen.
Nichts ist unmöglich, es ist nur sehr unwarscheinlich!

Wie können wir uns dagegen schützen?
Antwort: Durch Zerstörung/Formatierung der negativen Gehirne
und ein 'Gesetz-Algorithmus', der alle Handlunen nach geltendem Gesetz und den 3 Robotergesetzen (Good old Asimov hat gute Arbeit geleistet) scannt und bewertet, und diese notfalls blockiert.

Aber das sind glaub ich Probleme, mit denen wir uns noch nciht herumschlagen müssen.

So, jetzt gibts Essen!

Viele liebe Grüße,
Tobi

[pebisoft]

"Bis zur Zündung der ersten A-Bombe hat niemand gewußt, wie viel Energie freigesetzt wird."
stimmt nicht, es hat sich keiner verechnet. die wirkung war doch bekannt.
mfg pebisoft

[pebisoft]

ich glaube, ihr wollt dieses thema verdrängen. euch wird es belasten.
natürlich gibt es heute schon roboter, die für dem kriegsschauplatz getestet werden. natürlich gibt es schon maschienen, die sich selber herstellen können.
natürlich gibt es schon terroranschläge durch roboter. ein roboter braucht nicht immer 2 beine haben, braucht nicht immer 2 arme haben, braucht keine freundliche gesichtsmaske. ihr müsst euch mal von der menschlichen visualen roboterform trennen. das thema oben wird euch noch einholen.
die natur hat den dümmsten fehler gemacht, der war, das der mensch auf 2 beinen laufen konnte. alle sich bewegenden erfindungen bewegen sich auf mehr als 2 abstützungen und das hat nur einen grund, man verbraucht nicht soviel recoursen für die balance halten.
mfg pebisoft

[recycle]

die natur hat den dümmsten fehler gemacht, der war, das der mensch auf 2 beinen laufen konnte. alle sich bewegenden erfindungen bewegen sich auf mehr als 2 abstützungen

hmm, mag ja sein, dass bei dir in der Gegend die Hühner 3 oder mehr Beine haben und an allen Fahrrädern Stützräder montiert sind. Hier bei uns ist das aber nicht so.

und das hat nur einen grund, man verbraucht nicht soviel recoursen für die balance halten.

Kann schon sein, dass es dich fast alle deine Resourcen kostet die Balance zu handeln. Ich kenne aber viele Menschen die noch genug Resourcen frei haben sich auch mit anderen Dingen zu beschäftigen und denen kommt es sehr gelegen, dass sie ihre Hände nicht ständig zum abstützen auf dem Boden benötigen.

Wenn man sich mal ansieht, wieviele übergewichtige Menschen es gibt und wielange man joggen muss um nen Riegel Schokolade zu verbrennen, kann die Fortbewegung auf zwei Beinen eigentlich auch von der Energiebilanz her keine so katastrophale Fehlentwicklung der Natur gewesen sein.


Um mal wieder zum Thema zurückzukommen:
"US-Forscher arbeiten an einem Roboter, der fast jedes Gerät baut - eines Tages womöglich auch seine eigenen Nachfahren."
http://www.spiegel.de/spiegel/0,1518,361108,00.html

[Madgyver]

Jupp, ausserdem ist die Natur keine mystische Entität sondern eine Art Auswahlsmechanismus. Nur die besten der besten kommen weiter. Man kann also kaum sagen das die Natur Fehler macht (abgesehen davon das wir als Produkte dieser eine niedrigere Dimension haben und uns die nächst höhere nicht vorstellen können und somit gar nicht entscheiden können ob es fehler sind oder nicht.)

[pebisoft]

"Kann schon sein, dass es dich fast alle deine Resourcen kostet die Balance zu handeln. Ich kenne aber viele Menschen die noch genug Resourcen frei haben sich auch mit anderen Dingen zu beschäftigen und denen kommt es sehr gelegen, dass sie ihre Hände nicht ständig zum abstützen auf dem Boden benötigen. "

kann nicht sein, sonst hätten wir in deutschland nicht so viele arbeitslose.
fast jeder arbeitslose betätigt sich nicht einmal ehrenamtlich weil er nämlich seine balance nicht mehr jalten kann.
mfg pebisoft

[pc-gott70]

Hallo zusammen,

Für einen Teil der Erdbevölkerung in den reicheren Regionen der Erde ist es kurzfristig gesehen sicher praktisch, dass wir Dank Kernenergie mit dem Strom rumaasen können und uns jahrelang keine Gedanken über alternative Energien, Energiesparmassnahmen oder auch nur den sinnvollen Umgang mit Strom machen mussten.
Unsere Nachkommen werden strahlende Kraftwerksruinen und tonnenweise quer über den halben Globus verteilten radioaktiven Müll vielleicht nicht ganz so segensreich empfinden.

es ist leider so, das der Mensch in seiner Entwicklung immer etwas produziert, wovon er selber in den meisten Fällen nicht abschätzen kann, welche Spätfolgen entstehen werden. Das ist bei der Kernenergie so wie auch bei den Energieformen die schon länger genutzt werden. Früher wurde einfach alles verbrannt und in Strom umgesetzt. FCKW wurde einfach in die Natur entsorgt usw. usw. Jetzt, einige Generationen später wissen wir um das Problem des ständig wachsenden Ozonloches. Und auch hier werden die kommenden Generationen nicht gerade begeistert sein. Wie man sieht, es muß nicht umbedingt strahlen. Ich weiss sehr wohl, dass das strahlende Material Halbwertszeiten von eingen tausend Jahren haben kann aber mann sollte sich auch immer vor Augen halten, dass es auch andere schleichende und langwierige, schädigende Prozesse gibt.
Gruß
David