So wie es aussieht ist AVCC nicht angeschlossen. Damit könnte es ein Problem geben, vor allem wenn Brownout aktiviert ist. Der Controller braucht immer eine Spannung an AVCC. Auch ein 2 ter Entkoppelkondensator sollte da hin. Bei der niedrigen Frequenz des internen Oszillators könnte eine internen parasitäre Verbindung reichen, mit dem Quarz vielleicht nicht mehr.

Sonst eventuell mal einen anderen Quarz testen. Könnte sein das der Quarz grenzwertig ist. Auch die Psotion wo die Masse zu den Kondensatoren geht ist nicht optimal, sollte aber eigentlich kein größeres Problem sein.