Hallo,
erst einmal ist der JTAG und ISP nicht zueinander kompatibel. Die Stecker können zwar gleich aussehen, aber den Programmieradapter muss auch entsprechend dafür ausgelegt sein.

Hast du zufällig WinAVR/avrgcc installiert? Dann könnte man noch versuchen, den Chip über avrdude löschen, Fehlermeldungen lassen sich dabei auch ignorieren.
Wenn das auch nicht klappt, der Controller weder ISP noch JTAG annimmt, dann sind wohl per Fuse beide Schnittstellen deaktiviert, der Hersteller will dadurch wahrscheinlich sein Programm schützen.

Reset an 5V bedeutet, der Controller arbeitet ganz normal. Reset auf 0V bedeutet dass der Controller seine Programmausführung anhält und erst wenn wieder 5V am Reset anliegen, sein Programm nochmals von vorn beginnt. Der Speicher lässt sich damit nicht löschen.
Allerdings arbeiten die HV-Programmer mit 12V am Reset-Pin. Diese Spannung allein dort anzulegen, wird aber nicht ausreichen um den Speicher zu löschen. Die HV-Programmer werden dazu noch ein paar Bits an den Controller übertragen, so genau kenne ich mich damit aber nicht aus!

Ich vermute, dass es darauf hinausläuft, dass du dir einen "frischen" Atmega kaufst, den in die Schaltung steckst und das Hex-File drauflädst (und die Fuses dabei so setzt, dass der Controller weiterhin über JTAG oder ISP ansprechbar bleibt).

Grüße, Bernhard