Für JTAG brauchste einen JTAG Programmer. Und das ist dann eine komplett andere Programmierschnittstelle die u.a. auch einen eigenen Takt vorgibt, sodass du auch Controller proggen kannst die du normal nicht proggen kannst, weil du das Bit für den Quarz falsch gesetzt hast. Und du hast bei JTAG auch die möglichkeit das Programm direkt im COntroller zu debuggen und zu testen. Aber wie gesagt dafür brauchst man nen anderen Programmer. Und die Tatsache das dir das AVR-Studio sagt das das ein ISP Fehler ist, liegt das entweder an deinem Programmer (ISP Takt zu schnell z.B.) oder an deinem Controller (falsche Pinbelegung)