Hi,
Bild  
Bei mir passiert mit deinem Hexfile genau das gleiche!
Einmal ging der Mega8 zu programmieren.
Danach wird das STK500 nicht mehr erkannt,
so lange der Chip auf dem Board steckt !
(could not contact programmer, check your connections)
Keine Möglichkeit mehr den Mega8 zu programmieren.
Ist ja sehr interessant.

EDIT:
Ich habe gerade mal V-Target gemessen.
Die Spannung ist mit eingesetztem chip auf 6,5V angestiegen!
Sobald ich den Chip rausnehme sind es wieder 5V.
Chip wieder rein und es sind wieder 6,5V VTG.
Mit dem Scope kann ich aber nix auf der Spannungsversorgung schwingen sehen.

Und noch ein EDIT:

So, jetzt geht wieder alles Bild  

Die Chips sind natürlich NICHT defekt !
Anscheinend habt ihr eine interne Referenz beim AD Wandler des controllers eingestellt.

Also einfach AREF Jumper ziehen. Danach läuft das STK wieder normal.

Das liegt wohl daran, daß die Referenzspannung am AREF Pin des Controllers ausgegeben wird.
Liegt eine Spannung an, so kommt die rückwärts auf den Ausgang des LM317 und über einen 240Ohm Widerstand rückwärts auf den LM358, was dann anscheinend zu diesen unschönen Effekten führt.

Also, sobald man am Chip eine interne Referenz einstellt, muß der Jumper raus.
Hätte ich auch früher draufkommen können.
Hab' erstmal lange rumgesucht und probiert.
Nun ja, so ist das eben manchmal mit dem Wald und den Bäumen. Bild  

Gruß
Christopher