Das dürfte durch die Rundung verursacht sein. Ich schätze Mal, dass GCC zuerst die 1024 / ADCW berechnet, das ergibt dann für einen relativ großen Wertebereich (256 - 341) einfach nur 3. Und damit kommst du auf die 3300mV. Formuliere die Gleichung Mal so um, dass du explizit nur eine Division einer Konstanten hast: 1024 * 1100 / ADC

mfG
Markus