Wenn Du den Wert ins ADMUX schreibst ist das aber nicht 5V Referenz sondern intern 2,56V,
wenn da dann trotzdem 5V an AREF anliegt kommt der ADC etwas durcheinander !
Du musst also entweder die Referenz richtig einstellen &B00......
oder aussen nur einen Kondensator an AREF, sonst nix dort anklemmen !