Weispegel (=0xff) kann ja 5V sein, dann ist aber der Schwarzpegel eben nicht bei 0V.

Bei mir zumindest lagen die Werte minimal und maximal immer im Bereich von ca. 100 auseinander, was bei 5V ungefähr 2V Hub des Signals entspricht.

Das erste Bild von Dir sieht auch danach aus. Bestimme einfach mal den minimalen und maximalen Helligkeitswert. Falls Du ein Oszi hast, kannst Du Dir das Signal ja anschauen.

Falls Du das bei Dir nicht mehr ändern kannst/willst: Verstärke das Signal der Kamera über einen OpAmp.