Bei Reichelt gibts fertige DC/DC Wandler, die eine Potentialtrennung machen.
Die sollten für so eine Anwendung auch geeignet sein.
Z.B. SIM1-0509 SIL4.
Sind aber mit 4,30€ pro Stück auch nicht besonders preisgünstig.