Neuronales Netz

[NumberFive]

Nachtrag:

ich denke nicht das hardware die lösung ist software ist schneller den heute gibt es schon chips deren funktion per Software bestimmt wird. das was diese neuron chips angeht wird auch nix anderes sein. Will sagen ram und platte kosten nicht viel spezial hard ist immer teuer.

Gruß

[Javik]

Hört sich alles interessant an, könntet ihr mir vlt mal die Links geben, wo ihr des jeweilige Zeugs gefunden habt ?

[zefram]

Die Neuronen selber und das speichern der Gewichtungen dürfte kein Problem sein, wie verändert man aber systematisch die Gewichtungen um anhand der Eingangssignale ein angenähertes Ausgangssignal zu bekommen ?

Ich zitiere mich mal selbst, aus einem Beitrag in elektronik-projekt. Da ging es darum, dass jemand eine Mustererkennung mittels NN machen wollte und verschiedene Kurvenformen unterscheiden wollte. Die Kurven wurden an 10 Stellen abgetastet, es lagen also 10 Werte vor.

Hmm, also ... ich nehme mal an, du willst in der Lernphase dem Netz verschiedene Trainingsmuster (Sinus, Rechteck, Dreieck) zeigen. Nach der Lernphase soll das Netz dann in der Lage sein, neue Muster, die auch etwas verrauscht sein können, einer der drei Klassen Sinus, Rechteck, Dreieck zuzuordnen.
Du brauchst also 3 Neuronen (Perzeptronen) mit jeweils 10 gewichteten Eingängen und je einem Ausgang.
Nachfolgend bezeichne ich mal deine 10 Byte große Liste als "Vektor". (nur aus Gewohnheit)


0.1 Erstelle eine Menge an Trainingsvektoren (Trainingsbeispiele) und normiere sie. (siehe Normalisierung von Vektoren)

0.2 Wähle die Gewichte an den Eingängen der 3 Neuronen zufällig

Trainingsphase:
1. wähle zufällig einen der normalisierten Trainingsvektoren
2. berechne für jedes der 3 Neuronen die Erregung (Gewichtsvektor mal Eingabevektor)
3. wähle das Neuron mit der größten Erregung
4. ersetze den Gewichtsvektor des gewählten Neurons durch (alter Gewichtsvektor + Eingabevektor)
5. normiere den neuen Gewichtsvektor
6. springe zu 1. (Abbruch nach einer bel. Anzahl von Trainingsschritten)


Was is jetzt passiert? Jedes der 3 Neuronen repräsentiert jetzt eine der 3 Musterklassen. Gibt man nun ein neues Muster ein, wird das jenige Neuron die größte Erregung zeigen, dessen Klasse dem Eingabemuster am ählichsten ist.

Problem: Das Netz kann keine verschobenen Formen erkennen. Eine Sinuskurve, die während der ersten Bytes ansteigt ist also etwas anderes, als eine Kurve, die am Anfang fällt. Um solche Sachen zu Erkennen muß man irgendeine Verschiebungs-invariante Darstellung finden (Fouriertransformation oder sowas), aber das is dann eine andere Geschichte.

Vielleicht hilft das erstmal bissel weiter. Ansonsten sind wie immer diverse Skripte von Uni-Vorlesungen zu empfehlen. Zum Beispiel hier:
http://www.tu-chemnitz.de/informatik...KI/skripte.php unter "Konnektionistische Wissensverarbeitung" ... das Skript kommt ohne Mathematik aus.

PS: NumberFive ... für dich wäre ein Neuronales Netz, welches die korrekte Verwendung von Satzzeichen aus den Beiträgen anderer Nutzer lernt, ein echter Fortschritt, oder?

[matren]

Danke. Das ist doch schonmal was.

Das mit den Uni-Sachen ist immer so ne Sache.
Meistens kriegt man eine Liste mit Publikationen oder einfach nur ein Inhaltsverzeichnis des Stoffes in den Lesungen.
Aber das da gefällt mir schonmal.
-----
Software ist schneller ?
Ich denke das eine native Implementation des Netztes direkt in die Hardware um einiges schneller sein dürfte als jede Softwarelösung.
Aber darauf kommt es bei Neuronalen Netzten ja eigentlich garnicht an.
Die brauchen ja garnicht schnell sein, höchstens fürs Training, weil man da so arg probieren muss bis der richtige Wert rauskommt.

Aber für ein trainiertes Netz ist dach nicht weiter relevant.
vgl. das menschliche Gehirn. Die schlimmste Kröte von allen. Sowas in der Geschwindigkeitsklasse gibts in der Elektronik garnicht mehr.

Funktioniert doch aber trotzdem einigermaßen.

[NumberFive]

das währe sicherheit so
aber ich bin echt am überlegen ob ich nicht das posten langsam lasse.
Ich weiß es nicht ob ihr das nicht begreifen wollt oder könnt.

Ich kann nicht schreiben und werde es auch nicht mehr lernen. Natürlich kommt an der ein oder anderen stelle hinzu das ich schneller denke als tippe aber im grundsatz es gibt eine Krankheit die nennt sich legastini (ist 100% falsche geschrieben ein fach so sprechen wie es da steht)
Ich kann mir wörter nur anhand des aussehens merken und bin so in der lange zu schreiben. Also es hat nix mit meiner nichst lust zu tun sonder ich kann es nicht vom Arzt bestätigt. Also bitte ich kann nicht mehr.
Das auch für mich nicht einfach was mein ihr wie schwer das im berufsleben ist.

[zefram]

Ich kann nicht schreiben und werde es auch nicht mehr lernen. Natürlich kommt an der ein oder anderen stelle hinzu das ich schneller denke als tippe aber im grundsatz es gibt eine Krankheit die nennt sich legastini

Ok, entschuldigung. Ich wusste nicht so recht, wie ich deine Schreibweise einordnen soll ... die Rechtschreibung is ja total in Ordnung, nur ohne jeden Punkt oder Komma sind die Beiträge echt schwer zu erfassen.

Also nichts für ungut.

Noch ein Gedanke zum Neuronalen Netz ... das angesprochene Problem des "Überlernen" oder Overfittings, äußert sich darin, dass das Netz "auswendig lernt". Es verliert seine Generalisierungsfähigkeit und degeneriert quasi zu einer reinen Lookup-Table. Man muß also den Aufbau des Netzes vorsichtig wählen und gegebenenfalls die Anzahl der Neuronen bzw. der Parameter reduzieren.

[NumberFive]

Hallo zefram

sorry aber mußte mal raus mach jetzt einfach ein paar absätze dann solte man es besser lesen können.

Ich lese zu diesem Thema zur zeit ein Buch ist zwar hart aber ich denke komme dadurch. Zur zeit bin ich genau an der stellen wo es darum geht.

Aber er macht das anders er schaltet ein filter davor nur wie genau das geht habe ich noch nicht begriffen. Da ich zur zeit auch etwas programmieren muß was geld bringt komme ich nicht so viel zum lesen und testen leider also werde vorschritte bei mir etwas dauern.

Gruß

[matren]

@NumberFive:
Aber NumberFive, ... da würde hier doch was fehlen wenn Du hier nichts mehr postest. (Ist übrigens mein absoluter Ernst)

Legasthenie hin oder her, ich verstehen Dich trotzdem (meistens).
Und zweitens kann ich eh schneller lesen als Du schreiben.

Also alles nicht weiter ernst nehmen !!!
----

@zefram:
Das mit dem "überlernen" ist ein guter Punkt. Hatte ich völlig aus den Augen verloren. Gut das Du das erwähnst.

Passiert bei Menschen aber auch. Ich glaube da heißt es dann "Borniertheit".

[NumberFive]

Danke für die aufmuterung

oder man sieht den walt vor lauter bäumen nicht. Mann bin gerade fast verzeifelt habe kein Funktion zu aus lesen des timestamp in mysql gefunden.
ich glaube das nennt man dann betriebs blind oder so *g*

[matren]

Hast es jetzt aber gefunden oder ?
----
Übrigens hab ich da was gefunden über Bildverarbeitung.
Könnte vielleicht für Dich ganz interessant sein:
http://www-user.tu-chemnitz.de/~stj/lehre/bild.pdf
(danke an zefram für den Link)