Hallo,

1. Du hast den μC und seinen Ausgang außerhalb der Spezifikationen betrieben - da ist alles möglich. Wenn der Pin immer H bleibt, auch wenn er als Ausgang und auf L geschaltet ist, ist er defekt.
2. Wenn Du AVcc als Referenz benutzen willst, müssen die Bits REFS0 und REFS1 in ADMUX auf "0" gesetzt sein. Was Du dabei mit PA3 machst, spielt keine Rolle, denn AVcc wird dabei intern als Referenzspannung gewählt. Die anderen Möglichkeiten sind im Datenblatt in Tabelle 45 beschrieben einschließlich der Beschaltung von PA3.

MfG

Fred