Moin Forum,
das mit dem XOR ging schnell. Ich hatte mit einer Woche gerechnet. Aber ich werde voraussichtlich noch heute "liefern".
Es wundert mich sehr, dass sich die Altvorderen so lange an dem Detail aufgehalten haben. Und schließlich sogar diese backpropagation-Prügelei entwickelten. Man schlägt sozusagen auf das Kind ein, bis es die Lektion gelernt hat. Übel.
Man muss zwei "natürliche" Dinge berücksichtigen und die Lösung liegt sofort vor einem:
Es gibt kein isoliertes NOT. NOT gibts in der Natur nur als Weglassung, also in Verbindungen. Ich sehe einen Stuhl mit Katze. Und plötzlich ist die Katze weg. DAS fällt mir auf.
Ich muss mit dem GI-System wie mit einem Lebewesen umgehen. Ich muss ihm erst den Normalzustand zeigen. Und dann das, worüber es eigentlich stolpern soll:
Zuerst zeige ich ihm zwei Karten: gi(A_B,AKT_0);
Und dann nehm ich eine Karte weg: gi(A_notB,AKT_0);
Dann zeig ich ihm wieder zwei Karten: gi(A_B,AKT_0);
Und dann nehm ich eine Karte weg: gi(B_notA,AKT_0);
Und das wiederhole ich ein paar Mal. Genauso würde man auch die Aufmerksamkeit eines Kindes fesseln!
--------
Die zweite natürliche Sache betrifft den Schwellwert im Perzeptron.
Wenn man dauernd auf eine Stelle auf dem Arm drückt, merkt man den Druck nur am Anfang. Nach einiger Zeit verschwindet aber das Druckgefühl. Da wird in der Natur also irgendwas an der Aktivierungsfunktion rumgestellt. Wird ja auch im KI-Bereich gemacht.
Meine Idee ist noch einfacher, weil ich asymmetrische Perzeptronen nutze. Ich definiere einfach einen Bereich, in dem das Neuron feuert. Unterhalb und oberhalb dieses Bereiches feuert es nicht.
Also hab ich kurzerhand meine Aktivierungsfunktion umgeschrieben
if(RD_SUM >= FIRE) FIRE_REQ = TRUE; // V0.00
if(RD_SUM == FIRE) FIRE_REQ = TRUE; // V0.01
Und siehe da: das XOR-Problem wird nun gelöst. Mit einem einzigen Neuron!!!
Wie kommt das?
Die Karte A und die Karte B bekommen bei o.a. Lernen automatisch jeweils den Nutzen "7". Die Karte notA und die Karte notB bekommen jeweils den Nutzen "3".
Nach dem Lernen kann man dem System vier Kombinationen zeigen (die Zelle feuert genau bei "10").
A plus B = 14, also kein Feuern
notA plus notB = 6, also kein Feuern
A plus notB = 10, also Feuern
B plus notA = 10, also Feuern
Also XOR gelöst. Einfach, natürlich und elegant und ganz ohne Schläge.
----------
Wir dürfen den Pfad der Tugend nicht verlassen. Wir müssen uns immer wieder zur Disziplin aufrufen.
Wenn ein Problem mit dem GI-System nicht lösbar erscheint, dann kann es einfach daran liegen, dass wir das Problem in einer Weise darstellen, dass das auch kein Kleinkind bewältigen lönnte. In der o.a. Form kann jedoch auch ein Kleinkind das XOR-Problem verstehen.
Erweiterte Doku kommt noch heute, wenn nichts dazwischen kommt.
Bis später
Wolfgang
Lesezeichen