Tonerzeugung mit Timer funktioniert nicht wie gewollt

[sternst]

Hmm ich ... ich glaube ich hab das Brett vorm kopf gefunden, die Schleife dauert ja länger als einen Takt

A-HA!

...also ich noch aurechnen wie viel Takte ein schleifendurchlauf ist, oder?

Nein, denn die Laufzeit variiert ja (je nach dem welches if oder else da nun gerade konkret durchlaufen wird).
Statt dessen lässt du den Timer Interrupts in einem festen Abstand erzeugen (das ist dann deine Zeitbasis). Dieser Abstand muss aber groß genug sein, dass der Interrupt-Code (und zwar der Worst-Case) darin auch "Platz findet". Eine weitere Erhöhung der Auflösung ist dann nur noch durch einen schnelleren Prozessor-Takt möglich.