Bei einem Spannungsregler plane ich immer mehrere Kondensatoren ein.
Eingangsseitig einen Elko (bzw Tantal) im uF bis mF Bereich (Stromabhängig). Bei dir reicht ein Elko bis 100uF, das ist aber nicht so genau. Und zusätzlich plane ich noch einen 100nF Kerko ein.
Ausgangsseitig ist gleich, nur das der Elko kleiner bzw gleich sein sollte als im Eingangsbereich oder du planst noch eine Diode zwischen Ausgang und Eingang ein, damit die Ausgangsspannung nicht größer werden kann als am Eingang (das mögen die nicht).

Auf was du auch achten solltest ist das der Strom "über" die Kondensatoren fließt. Also z.b. bei dir von U2 bei der Klemme J3 vorbei, (C1 um 90° drehen) auf den Anschluss von C1 und von dort auf den Attiny. Dann würde ich von dort auf R1 gehen. Zwischen Reset und Masse (parallel zu S1) plane ich auch immer einen 100nF Kerko ein (ich nehme immer R=10k, C=100n).

Was auch eine Möglichkeit ist, C1 weiter nach oben schieben (Pin von C1 und Attiny nebeneinander) und noch dichter an an den Attiny heran. Die Leiterbahn aber trotzdem zuerst zum C1 und dann zum Attiny.

MfG Hannes