Hängt ein bisschen vom Rest der Applikation ab. Wenn Du einen PC verwendest, fährst Du wahrscheinlich mit einer einfachen USB oder FireWire Kamera am besten, bei den professionellen (!) Industriekameras (so ab 200€ aufwärts für 640x480 in SW) ist meist schon eine lib/DLL für C und i.d.R. für Windows und Linux mit dabei.

Was darf das denn Kosten? 500um Positioniergenauigkeit ist ja nicht besonders genau. Da reicht es, wenn Du eine Pixelauflösung von 1-2mm hast (sofern, Du die Kanten subpixelgenau bestimmst).

Wie sind denn die Abmessungen Deiner Anlage (Verfahrwege, Abstand x/y-Achsen zum Tisch)?