Ein Prescaler von nur 8 ist schon recht klein um per Preload im Interrupt eine konstante Frequenz zu erzeugen. Zum einen kommt zu der Berechenten Zeit noch die bis zum neu setzen des Timers dazu, das sind bei BASCON durchauch schon mal rund 50 Zyklen. Dazu kommt noch eine mögliche Schwankung um +-2 Zyklen - wenn man Pech hat liegt man da gerade an der Grenze und es gibt einen Timertick mehr oder weniger.

Besser wäre es hier den CTC Modus des Timers zu nutzen, oder man ließt gleich den Timer aus rechnent dann bei Bedarf vor der Ausgabe um.