Für Dich wäre der Mega162 interessant, da der ein externes Speicherinterface besitzt, an dem Du sehr einfach SRAM anschließen kannst. Und in 16k Flash geht schon einiges rein. Alternativ gehen auch der ATMega64 und 128 (auf AVRFreaks gibt's dazu ein schönes Auswhltool)

Über den Algorithmus muss ich erst mal nachdenken....

Das, was Du auf wikipedia gelesen hast ist richtig, stimmt aber so nur für eine analoge Aufnahmequelle. Dein Bild ist aber schon ortsdiskret (im CCD bzw. CMOS) und wieder nur in ein analoges, ortskontinuierliches gewandelt worden. Zum Testen ist das sicher nicht von Belang, zum genauen Messen allerdings sehr.