Empfindliche Schaltungen an einer Spannungsquelle zu betreiben ist immer etwas schwierig.
In deinem Fall stört sich die Schaltung selbst, daher nützt eine Entstörung vorher nichts.
Ansonst die Schaltungen wie von dir in 1) beschrieben entkoppeln. Die Masseleitung der einzelnen Schaltungsteile an einem gemeinsamen Punkt zusammenführen. Dieser Punkt sollte so nahe wie möglich an der Spannungsquelle sein.
In die Masseleitung einfügen ist nicht empfehlenswert, da dann die Schaltungen unterschiedliche Massepotentiale haben was wiederum zu Störungen führen kann.