AVcc und ARef müssen von Vcc entkoppelt werden. Da gibt es hier im Forum schon etliche Beiträge zu und es steht ausserdem im Datenblatt. Ohne diese Entkopplung schwanken die ADC-Werte stark.