Falls mal noch jemand den Chip einsetzen möchte...
Ich hab die Ausgangssignale von meinem Oszillator mit dem Oszilloskop vermessen und die Werte die der AD8307 angezeigt hat mit diesen verglichen - Sie passten nicht zusammen.
Rechnen, Fehlersuche und Nachdenken half nichts.
Irgendwann kam Ich dann mal auf die Idee meinen Oszilloskop Tastkopf auf x10 zu stellen und plötzlich passten die Werte!
Ich hatte also Verluste durch meinen Tastkopf und die Verkabelung innerhalb des Generators, der AD8307 hatte also richtig gemessen! - Nur falls mal Jemand die gleichen Probleme hat.