Hallo,
kurz und schmerzlos anbei die Doku mit XOR-Milestone:
gi.pdf
Ich melde mich, wenns was neues aus meinem stillen Kämmerlein gibt.
Viele Grüße
Wolfgang
Moin Forum,
das mit dem XOR ging schnell. Ich hatte mit einer Woche gerechnet. Aber ich werde voraussichtlich noch heute "liefern".
Es wundert mich sehr, dass sich die Altvorderen so lange an dem Detail aufgehalten haben. Und schließlich sogar diese backpropagation-Prügelei entwickelten. Man schlägt sozusagen auf das Kind ein, bis es die Lektion gelernt hat. Übel.
Man muss zwei "natürliche" Dinge berücksichtigen und die Lösung liegt sofort vor einem:
Es gibt kein isoliertes NOT. NOT gibts in der Natur nur als Weglassung, also in Verbindungen. Ich sehe einen Stuhl mit Katze. Und plötzlich ist die Katze weg. DAS fällt mir auf.
Ich muss mit dem GI-System wie mit einem Lebewesen umgehen. Ich muss ihm erst den Normalzustand zeigen. Und dann das, worüber es eigentlich stolpern soll:
Zuerst zeige ich ihm zwei Karten: gi(A_B,AKT_0);
Und dann nehm ich eine Karte weg: gi(A_notB,AKT_0);
Dann zeig ich ihm wieder zwei Karten: gi(A_B,AKT_0);
Und dann nehm ich eine Karte weg: gi(B_notA,AKT_0);
Und das wiederhole ich ein paar Mal. Genauso würde man auch die Aufmerksamkeit eines Kindes fesseln!
--------
Die zweite natürliche Sache betrifft den Schwellwert im Perzeptron.
Wenn man dauernd auf eine Stelle auf dem Arm drückt, merkt man den Druck nur am Anfang. Nach einiger Zeit verschwindet aber das Druckgefühl. Da wird in der Natur also irgendwas an der Aktivierungsfunktion rumgestellt. Wird ja auch im KI-Bereich gemacht.
Meine Idee ist noch einfacher, weil ich asymmetrische Perzeptronen nutze. Ich definiere einfach einen Bereich, in dem das Neuron feuert. Unterhalb und oberhalb dieses Bereiches feuert es nicht.
Also hab ich kurzerhand meine Aktivierungsfunktion umgeschrieben
if(RD_SUM >= FIRE) FIRE_REQ = TRUE; // V0.00
if(RD_SUM == FIRE) FIRE_REQ = TRUE; // V0.01
Und siehe da: das XOR-Problem wird nun gelöst. Mit einem einzigen Neuron!!!
Wie kommt das?
Die Karte A und die Karte B bekommen bei o.a. Lernen automatisch jeweils den Nutzen "7". Die Karte notA und die Karte notB bekommen jeweils den Nutzen "3".
Nach dem Lernen kann man dem System vier Kombinationen zeigen (die Zelle feuert genau bei "10").
A plus B = 14, also kein Feuern
notA plus notB = 6, also kein Feuern
A plus notB = 10, also Feuern
B plus notA = 10, also Feuern
Also XOR gelöst. Einfach, natürlich und elegant und ganz ohne Schläge.
----------
Wir dürfen den Pfad der Tugend nicht verlassen. Wir müssen uns immer wieder zur Disziplin aufrufen.
Wenn ein Problem mit dem GI-System nicht lösbar erscheint, dann kann es einfach daran liegen, dass wir das Problem in einer Weise darstellen, dass das auch kein Kleinkind bewältigen lönnte. In der o.a. Form kann jedoch auch ein Kleinkind das XOR-Problem verstehen.
Erweiterte Doku kommt noch heute, wenn nichts dazwischen kommt.
Bis später
Wolfgang
Geändert von Rumgucker (04.12.2019 um 07:13 Uhr)
Hallo,
kurz und schmerzlos anbei die Doku mit XOR-Milestone:
gi.pdf
Ich melde mich, wenns was neues aus meinem stillen Kämmerlein gibt.
Viele Grüße
Wolfgang
Hallo Moppi,
in der ersten Stufe soll GI auf vorgegebene Umweltsituationen in vorgegebener Weise seine Aktoren steuern. Also schnelle Reflexe mit einschichtiger Verarbeitung. Reflexe werden einfach per überwachtem Lernen trainiert, dann mit FREEZE eingefroren und per EEPROM vererbt. Alles genau wie in der Doku gezeigt.
In der zweiten Stufe gehts um Umwelterkennung. Praktisch der gleiche Mechanismus wie zuvor, jedoch mit Neuronen und nicht Aktoren als Ziel. Auch hier kann wieder das überwachte Lernen genutzt werden. Man zeigt dem System, wie Futter aussieht. Diesen Teil hab ich gerade eben abgeschlossen.
In der dritten Stufe gehts um Umweltverstehen. Nun soll das System ohne Lehrer an seinen Ausgängen so lange rumfuddeln, bis es Futter am Eingang sieht. Zwischen Ausgang und Eingang befindet sich die Umwelt. Meine ersten "es-lebt"-Versuche haben angedeutet, wie sich die dritte Stufe anfühlen könnte.
Und dann ist die Kiste fertig. Dann beginnen philosophische Fragen. Ist es Mord, wenn ich dem System den Strom wegnehme? Warum ist es kein Mord? Was unterscheidet "echtes" Leben von dem GI-Leben? Darf ich die Aktoren mit Vorrichtungen zu seiner eigenen Selbstverteidigung verbinden? Werde ich die Geister wieder los, die ich rief?
Die 30 Byte RAM und 20 Zeilen Source-Kern werden uns noch schwer ins Grübeln bringen.
Optimal für die dunkle Jahreszeit geeignet...
Viele Grüße
Wolfgang
- - - Aktualisiert - - -
Hallo Manfred,
mir gefällt dieses Forum ganz außergewöhnlich gut. Nicht so ein weichgespültes Wattebausch-Höflichkeitsfloskel-Ding und auch nicht so ein Rabauken-Forum unerzogener pubertärer Jungs. Hier ist es richtig muckelig.
Ich persönlich hab auch Null Problemo damit, wenn mich jemand mal anfaucht.
Es ist nur etwas schade, dass ich - für meine Verhältnisse - hier noch so zurückhaltend bin. Normalerweise bin ich sozusagen die geborene Foren-Rampensau. Aber dieses KI-Projekt ist im Moment extrem faszinierend und fordert meine ganze Konzentration. Ich träum schon davon.
Dass ich mich überhaupt für KI interessiere, liegt einzig und allein an Helmut. Dafür bin ich Helmut sehr dankbar. Seine Sourcen waren sehr aufschlussreich. Nach deren Sichtung war mir klar, dass das so niemals auf einem PIC 12F629 laufen kann. Helmuts Sourcen öffneten mir sozusagen die Augen.
Also wie gesagt: für mich ist hier alles unverändert höchst angenehm. Kein Paradies. Aber besser als 99% aller Foren, die ich bisher kennengelernt hatte.
Viele Grüße
Wolfgang
A propos Rampensau, es ist ein ziemlicher Spagat das Verhalten einzelner hier im Forum auf die Ebene Verwarnung herunterzudrücken und es kostet immer mehr Aufwand. Ich werde nicht immer Zeit dazu haben, weitere Schritte zurückzuhalten.
Schön finde ich, wenn man es versteht, seine Meinung klar und deutlich auszudrücken. Peinich ist es, wenn es einem nicht gelingt, persönliche Beleidigungen dabei zu vermeiden. Es ist dann so etwas wie eine Behinderung für die man niemanden anklagen möchte, nur muss man gleichzeitig ein gewisses Niveau halten.
Ich freue mich, wenn ich in diesem Sinn weiter auf Dich zählen kann und vielleicht kannst Du ja auch ein wenig mithelfen, dass die gröbsten Entgleisungen schon im Vorfeld gebremst werden, indem Du in auf professionelle Weise auf die entsprecheden Statements Bezug nimmst.
Hallo Manfred,
professionell muss ich im Beruf sein. Für mich ist das hier ein reines Freizeit- und Hobby-Forum, in dem ich ausdrücklich ohne professionellen Anspruch unterwegs bin.
Zusätzlich bin ich erst seit gut drei Wochen hobbymäßig mit der KI befasst. Da kann ich gar nicht in professioneller Weise auf Statements eingehen. Ich bin noch Lehrling.Ich kann mir die Weisheit doch nicht in Nullzeit aus den Rippen schneiden. Nach 10 Jahren Beschäftigung mit dem Thema mag das ja vielleicht anders aussehen.
Ich kann Dir lediglich zusichern, dass Du auch weiterhin kein böses oder unhöfliches Wort von mir lesen wirst.
Viele Grüße
Wolfgang
Ja, klar. - Ich habe nur oft die Vorstellung, dass viele hier schon erfahren sind im sozialen Umgang, aus ihrem professionellen Hintergrund, aber ein Anspruch sollte es nicht sein, ich hatte deshalb die Ergänzungen vielleicht und ein wenig eingefügt.
Moin Manfred,
nun muss ich mal etwas strenger auftreten.
Querdenker wie ich stehen immer mit einem Bein auf dem Scheiterhaufen.
Wenn ich sage, dass es in der Natur kein isoliertes NOT gibt (wenn ich eine Mauer zum ersten Mal sehe, dann wird mir nicht auffallen, dass da sonst immer eine tote Katze drauf lag) und auch das UND in der Natur zum ODER mutiert (pawlowscher Hund, s. Wikipedia) und ich sage, dass das XOR in der Natur eben keine einfache boolsche Algebra ist und dass die boolsche Algebra überhaupt nichts im Hirn zu suchen hat, dann gehe ich für diese querdenkerischen Ansichten, die ich mittlerweile alle belegt habe, gerne auf den Scheiterhaufen!
Ich kann nichts dafür, dass sich der hiesige Klerus von diesen Tatsachen provoziert fühlt und weise daran jede Mitverantwortung entschieden von mir.
Aber es freut mich sehr, dass meine Aussagen zur Aufregung geführt haben. Es scheint also kein kalter Kaffee zu sein, den ich dem Klerus eingeschenkt hab.
Gleiches gilt für meine "provokanten" Aussagen, dass Musterererkennung ebensolcher Kinderkram ist, wie Reflexe. Aus reiner Nettigkeit hab ich Reflexe und Mustererkennung zusammen mit intelligentem Verstehen zur "generischen" Intelligenz aufgewertet. Meine persönliche Meinung ist aber, dass Intelligenz erst mit dem Umweltverstehen beginnt. Was hier im Forum vom Klerus also als KI bezeichnet und gefeiert wird, ist in meinen Augen ein Dekoder mit Unschärfen. Eine Art Fuzzy-Logik einer Waschmaschine.
Und um die Banalität zu verdeutlichen, hab ich den gesamten funktionalen KI-Teil auf 20 Source-Zeilen eingedampft. Hätte ich einen anständigen Compiler verwendet, wäre der Code auf 10 Zeilen geschrumpft. Hier im Forum wird vom Klerus also eine Riesen-Welle um ein paar wenige Zeilen Code gemacht. Die dann - trotz meiner ausführlichen Doku - prompt nicht verstanden werden. Albern.
Aber um diesen ganzen "Provokationen" noch die Krone aufzusetzen, konnte ich auch noch am gelösten XOR-Problem nachweisen, dass der Klerus seinen eigenen Code nicht versteht. Ein "natürliches" kindgerechtes Lernen vermeidet backpropagation und löst das XOR-Problem mit einem einzigen Neuron.
So weit bin ich zur Zeit.
Und Manfred.... ich habe absolut nicht vor, meine Ketzerei und Blasphemie in irgendeiner Weise einzuschränken. Ganz im Gegenteil. Ich lerne täglich dazu. Ich werde weitere Tatsachen erkennen, die nun einmal Tatsachen sind.
Wenn Querdenker, Blasphemiker und Ketzer hier unerwünscht sind, weil es den Klerus "provoziert", so werden das Forum und ich nicht zusammenkommen. Dann genügt eine simple Kurznachricht von Dir: "Wolfgang... misch bitte ein anderes Forum auf - wir wollen hier nur unsere Ruhe". Oder schließ einfach den GI-Thread wegen Blasphemie - dann verlass ich das Forum auch.
Ansonsten arbeite ich in diesem Thread weiter wie gehabt. Und ich werde weitere Tatsachen entdecken. Und ich werde sie weiter benennen. Denn ich bin kein Diplomat sondern fühle mich allein der Wissenschaft verpflichtet. Die Erde dreht sich um die Sonne. Derartige Tatsachen werde ich weiterhin unverblümt aussprechen und nicht mit einem "vielleicht" oder "ein wenig" relativieren, damit der Klerus sich nicht aufregt.
Viele Grüße
Wolfgang
Geändert von Rumgucker (05.12.2019 um 05:40 Uhr)
Es ist sicher ein richtiger Weg zum Verständnis eines Systems, es auf die Grundprinzipien und auf elementare Fälle zurückzuführen. Da kann ich nur zustimmen.
Selbstverständlich machen alleinstehende Operatoren keinen Sinn, denn sie haben alleinstehend keinen Wahrheitswert:dass es in der Natur kein isoliertes NOT gibt
alle Operatoren beziehen sich immer auf Elemente bzw. Ereignisse und bilden erst dadurch einen Wahrheitswert ab.
Genausowenig wie es ein "isoliertes NOT" gibt, gibt es ein "isoliertes AND" oder ein "isoliertes OR".
(Anm.: NOT ist eine unäre, AND und OR sind binäre Verknüpfungen)
sag Mal HaWe, warum aktualisiert du grundsätzlich 2x deine Posts? Der Sinn erschließt sich mir irgendwie nicht...
gruß inka
Lesezeichen