Ob der Mega8 ausreicht, hängt davon ab, wie schnell Dein Ergebnis bereit stehen muss, aber mit 16MIPS kann man schon einiges machen. Da Du von 12 Eingängen und 2 Ausgängen sprichst, ist das wahrscheinlich recht schnell.

Ein KNN kannst Du prinzipiell ohne Floats rechnen. 8Bit für die Inputs und 16 Bit für die Gewichte reichen aus. (Die Synapse3*PC arbeitet z.B. mit 16bittigen Gewichten und Fixpunt. Der AVR kann auch Fixpunkt - FMULx).

Ein Recall auf einem 12-6-2 Netz (nur mal so als Beispiel) würde
6*(12Mul, 11 ADD) + 2*(6Mul, 5 ADD) in 16Bit benötigen. Macht also:
84MUL und 76ADD in jeweils. Mal über den Daumen gepeilt jeweils 8Zyklen (wg. 16 Bit) pro Operation macht 1280 Zyklen, um ein Muster zu propagieren. Macht bei 16 MHz: 80us. Eigentlich recht schnell.