Ich kann Dir nur einen guten Tipp geben - Lass es.
1. Du hast nur einen 8 Bit breiten Ausgang ( 256 Werte ).
2. Die Wertetabelle ist viel zu klein.
Ich hab mir einen ATMEGA 16 DDS Sinusgenerator nachgebaut.
Im Controller ist die DDS Routine in Assembler.
Trotzdem ist alles was über 2kHz hinaus geht alles - nur kein Sinus mehr.
Das ist ein nettes Projekt um die Grundlagen von DDS Generatoren zu lernen, als echtes Messgerät taugt es nicht.

Wenn Du einen DDS Generator bauen willst, benutz einen der zahlreichen DDS Chips z.B. den AD9833 oder den AD9834 von Analog Devices. Die haben dann sogar noch einen Dreieck und einen Rechteck Ausgang.
Für höhere Frequenzen gibts noch andere Bausteine, die bieten dann aber nur Sinus am Ausgang, allerdings mit Frequenzen bis in den GHz Bereich hinein.

Die Bausteine lassen sich relativ einfach per SPI ansteuern.