Mh ich kenn das Datenblatt des IC nicht, aber es klingt plausibel, dass die Daten direkt die Quadraturencoder Ausgänge sind. Mit jedem Übergang, von dem es 4 pro Periode gibt, kannst du einen Tick in eine Richtung bestimmen. Wie groß ein Tick ist, weiß ich allerdings nicht. Manche Mäuse haben neben dem USB Anschluss immernoch ein PS2-Interface, das könntest du ach seriell auslesen und direkt fragen, wie weit sich das Ding seit dem letzten Auslesen bewegt hat.
Aber wenn du an die Leitungen dran kommst und einen Controller dabei hast, der schnell genug ist bzw nicht zu beschäftigt mit was anderem, solltest du alle Übergänge erwischen können.