Folgende Ideen nach Betrachten des Schaltplans:
1. Wie ist das denn mit den 4 GPIO die als Eingang geschaltet sind: Ist da ein interner Pull-up Widerstand aktiviert? Es könnte sinnvoll sein diese 4 GPIO nochmal extern über z.B. 10kOhm an +3,3V zu verbinden um den Pin im nicht geschalteten Zustand (Optokoppler sperrt) sicher auf High-Potential zu ziehen.
2. Nach dem Spannungsregler 3,3V sehe ich keinen Abblockkondensator, ist aber vermutlich auf dem ESP drauf und nur nicht gezeichnet.
3. Netzteil könnte eventuell zu schwach sein (Spannungseinbrüche, die beim Schalten der Relais auftreten). Zum Probieren könnte man die Relais mal durch je 1LED mit Vorwiderstand ersetzen.
4. Falls die Fehlsignale über die geschalteten Leitungen eingestreut werden: Vorwiderstand am Optokopplereingang möglichst hochohmig wählen, evt. Kondensator parallel zum Eingang des Optokopplers einfügen.