Mir ist jetzt wieder eingefallen wo ich den Filter her hatte:
Man findet oft Filter ohne den 2 ten größeren Kondensator. Da ist die Auslegung relativ einfach und die stbilität erstmal keine Problem. Man hat aber immer einen kleinen direkten Durchgriff auf den Ausgang. Wenn die Ref Frequenz Stabil ist, sind die Pulse immer recht klein, sollte also kein Problem sein.
Beim relativ instabilen Ref Signal hier, sollte man da aber vermeiden. Deshalb der 2. Kondensator.

Ein möglicher test wäre also den großen Kondensator (10 µF) rauszunehmen. Das sollte den Frequenzbereich auch nach unten etwas vergrößern.


Das mit der begrenzten Maximalfrequenz sollte kaum vom Filter abhängen, sondern eher von der beschaltung am IC. Da müßteman eventuell die Widerstände oder den Kondensator etwas kleiner machen.
Viel größer als die 3,8 V wird die Spannung am VCO Eingang auch nicht werden, denn wenn das Eingangssignal nicht so stabil ist, kann der Frequenzkomperator auch mal Pulse der anderen Richtung ausgeben. Da man hier keine echte integration von strömen hat, werden die falschen Pulse stärker gewichtet und man kommt halt nichtmehr an die Extreme.
Wenn man die hohe VCO-Spannung braucht, würde an aktiver Filter mit einem OP helfen. Ich habe aber noch nicht selber probiert, sondern nur mal in Erwägung gezogen.

An sich würde ich erwarten, das die niedreigeren Frequenzen besser gehen, denn da ist das Signal vom DDS besser.