Hast du im AC oder DC Modus gemessen? Du solltest DC wählen und so einstellen das 0V so weit als möglich am unteren Bildrand und 5V am oberen Bildrand ist. Somit hast du eine sehr gute Auflösung.
Wenn du den 7805 verwendest würde ich einen Elko vor (am Besten 1000µF) und einen nach dem Spannungsregler (470µF) einbauen. Vielleicht hilft das etwas.

MfG Hannes