also diese Lösung ist für mich inakzeptabel, weil der ganze Prozess auf einem µC laufen soll, der doch schon etwas augelastet ist, sodass ich auf weitere Interrupts verzichten möchte.
Schade, von dieser Variante hätte ich mir einiges an Performancegewinn versprochen.

Auch die Idee, den Offset vor Start durch ein Poti einzustellen, ist kontraproduktiv, weil zuviel Aufwand und nicht standalone.
Diese Idee gefällt mir auch nicht (eher aus Gründen der Zuverlässigkeit, Potis fangen irgendwann zu "kratzen" an, das kann man hier nicht brauchen.
Alternativ könnte man die PWM auf mehr als 2 byte ausweiten, das wäre auch kein riesiger Aufwand. Die machbare Frequenz wird dann aber schon langsam (je nachdem, welchen Timertakt du maximal zulassen kannst). Damit könnte man sich alles Kalibrieren vor dem Start sparen, weil der gesamte Meßbereich des Sensors im bester Auflösung erfasst wird.

bei 1V Referenz, 12Bit Auflösung und Gain=64 auf nichtmal 1Lsb Rauschen. In der Realität habe ich aber ca. 1.14mV Rauschen.
Die "Rechnung" war ja nur eine Abschätzung für ein rechteckiges Eingangssignal. Das läßt sich nicht ernsthaft über gekoppelte Tiefpässe fortsetzen. Momentan weiss ich nicht, ob eine Kaskadierung von Tiefpässen sinnvoll ist, oder ob man es mit einem Tiefpass mit möglichst niedriger Grenzfrequenz probieren soll. Das Thema hatten aber andere auch schon, wenn du z.B. im mikrocontroller.net die Suchbegriffe "pwm restwelligkeit" eingibst, kommt einiges zum Lesen. Alternativ über spice simulieren, das geht manchmal schneller.

In der Realität habe ich aber ca. 1.14mV Rauschen.
An welcher Stelle? Rauschen oder Restwelligkeit? Realität oder Simulation? Rauschen kommt mit Sicherheit über den Sensor rein, das kann man durch Tiefpassfilterung (Hardware, Software) auf Kosten der Bandbreite reduzieren. Das ist ja hier die eigentliche Kernfrage, gibt es hier noch Potential zum Optimieren?

Ist mein Layout womöglich so schlecht? Könnte es bei Bedarf ja mal reinstellen.
Glaube ich nicht. Für Tiefpässe von Meß- und Vergleichs- und Referenzspannungen sollte man ausschließlich Folienkondensatoren nehmen. Kerkos und Elkos nur zum Abblocken von unkritischen Betriebsspannungen.