Hallo Florianinside,
ich habe auch den Butterfly und auch am Anfang ein paar Probleme damit. (TXD und RXD vertauscht, da die Doku missverständlich war) Der AVR ist eigentlich relativ robust und, da das Programm ja läuft, zu 99,9% in Ordnung.
Damit du den Butterfly überhaupt beschreiben kannst musst du den Bootloader per Hand aktivieren. Dafür gibt es ein Menupunkt in dem Beispielprogramm auf dem Butterfly. Der Bootloader kann aber auch aktiviert werden, indem die Batterie kurz rausgenommen wird.
Du kannst den Bootloader aber auch vergessen und einfach per ISP flashen(Header ist vorhanden) ... dabei allerdings den Pegelwandler nicht vergessen.

Gruß,
SIGINT

P.S.: http://www.mikrocontroller.net/articles/AVR_Butterfly