Hi,

laut Datenblatt von meinem ATXMEGA64A3 (du hast ja nicht angegeben, welchen du verwendest) darf AREF höchstens mit VCC-0.6V beschaltet werden. Somit kannst du eine Spannung von 3.3V gar nicht messen?!
Auch ist für mich nicht ersichtlich, welche Referenz du im Programm gewählt hast, da ich kein (zu wenig) C kann. Mach doch noch genauere Angaben (welcher µC, welche Referenz), damit man mehr sagen kann

Gruß
Chris