Ich glaube, dass dein erster Schritt Aref=5V keinen Sinn macht. Man würde mit 2,5V, der Hälfte des Max. Wertes anfangen.
Dann wäre der 10. Schritt 2,6514, was wieder eine 0 bekommen würde.
Damit hättest du als Ergebnis
10_0001_1110 = 542
und als berechnetes Ergebnis
2,65*1024/5 = 542,72

Scheint mir ok zu sein.