Hallo,
die grobe Auflösung liegt sehr wahrscheinlich an dem, das der Timer nur 8 Bit hat.
Für die 20ms muss der Timer bis auf 255 zählen, 10% davon für den Impuls von max. 2ms, sind ca. 25. also kann man von 0-25 den Servo Positionieren.

Da der Tiny25 nur 8Bit Timer hat, geht es auf diese Weise nicht.
Du kannst aber ein Software-PWM bauen, dann geht das mit den 8Bit-Timern auch wieder.
Überlicherweise wird der Timer auf ca. 10µs eingestellt, und eine ISR aufgerufen die alles verwaltet, dort lässt man einen weiteren Zähler (Variable) mitlaufen.
Je nach Wert des Zählers(Variable) wird dann der Ausgang gesetzt oder gelöscht, so kommt dann das Software-PWM zustande.