Für ca. 25-30€ gibts auch ein Arduino-Board - dort ist schon ein USB-ISP-Programmer enthalten!

Allerdings, wie die anderen schon gesagt haben, mit einem günstigen Programmer und einem selbstbauboard kommt man gut weg und kann sich besser in die Materie einarbeiten.
Ich habe auch so angefangen und keine großen Probleme gehabt - es gibts genug Informationen und Hilfe im Internet!