Die auflösung kannst du beim M16 nicht einstellen.
Die ist auf 10-Bit festgelegt.

Aber wenn du eine geringere Auflösung am Ergebnis wünschst dann kannst du das auf Zwei Wegen machen.

Zum einen Teilst du das Ergebnis um 2^n wobei N die Zahl der Bits ist um die du kürzen willst oder du Shiftest einfach die überflüssigen LSB raus.

Alternativ gehts auch Platz und Zeitsparender indem du einfach nur die Zahl der Bits ,beginenns mit dem MSB,nimmst die du haben willst.

Wenn du aber nur 8-Bit Auflösung brauchst dann geht es einfacher.(Methode 2)

Setz im Register ADMUX das Bit Adlar (Bit 5) auf 1 dann wird das Ergebnis in den Ausgaberegistern ADCH und ADCL so dargestellt das in ADCH die obersten 8 Bit des Ergebnisses stehen und die beiden untersten in ADCL statt die beiden obersten in ADCH und die untersten 8 in ADCL

So brauchst du nur ADCH auszuwerten.
Steht aber auch ausführlich im Datenblatt