ah, Modelbahn - ja, die braucht irgendwas mit ca 12V Wechselstrom? Sorry, schon lange her das ich nen Modelbahntrafo in der Hand hatte. Das Problem bei der H-Brückenschaltung ist wohl dass die das genau mal nicht macht. Das war kein guter Tipp von mir.

Maximal fällt mir noch ein das man das PWM- Frequenz schneller macht - also statt z.B. 10kHz, 20kHz oder mehr produziert. Da bin ich aber raus, das kann ich nicht aus dem Datenblatt lesen ob das der Optokoppler noch mit macht, und/oder Dein µC hergibt.

Dann wäre die untere Sinuswelle des Wechselstroms nicht mehr so sehr schlimm auffällig.
Untere Welle invertieren?
Mit Kondensatoren puffern?