Hmm ich glaube so geht das nicht... Der erwartet eindeutige Befehle, keine PWM. Die Ansprechzeiten der Motorparameter im Datenblatt liegen allesamt im µS Bereich - da hilft selbst PREESCALER = 1024 nix.
Vielleicht kannst du mit ner lahmen PWM-zu-Fuß (mit Interrupt + Zähler) was reißen.
Oder versuch die Motoren doch über den Strom zu regeln - also über R_sense - wobei sie da stark an Drehmoment verlieren dürften - aber teste es mal... Die PWM an den passenden Pin uns schauen, was passiert (vielleicht noch nen Glätt-Elko dazu).
Um DC-Motoren zu regeln, kannst du bestimmt auch was einfaches mit Mosis oder Transis aufbauen, oder?