Wenn der MP3-Player mit Akku einwandfrei funktioniert, der einzige Unterschied ist, höherer dynamischer Widerstand des LM 317 gegen einem Akku. Du kannst versuchen durch ein ziemlich großen Elko zwischen Ausgang des Reglers und Masse (GND) ihn zu senken. Es ist zwar unelegante, aber hoffentlich wirksame Lösung.

MfG