Das Layout sieht schon besser aus, aber 8 mm sind das immer noch nicht. Die Leitung unter dem Optokoppler geht nicht - da ist auch so schon nicht ganz genug Abstand (d.h. etwas andere Pinanordung mit etwas mehr Abstand wählen, und nach innen kein Kupfer. Der Platz bei den Steckern reicht auch nicht - die Anschlüsse dürfen entsprechend nicht so dicht zusammen. Auch bei der Sicherung und den Relais fehlt da noch etwas Abstand. Ein 230 V Teil läßt sich nun mal nicht so klein hinbekommen.
Der Kondensatortyp X1 ist schon mal gut - weniger Spanungsfestigkeit lieber nicht, wegen der möglichen Induktionsspannung.
Wenn der Platz knapp wird kann eher die 100 nF Kondensatoren oder einige Widerstände am µC als SMD Ausführung (z.B. Bauform 0805) nehmen. Auch die Kondensatoren für den Quarz gibt es kleiner.

Das Layout für den µC sieht schon ganz gut aus. Da wo es geht sollten die Leitungen, vor allem für GND noch deutlich dicker sein. Für den µC wäre ggf. noch ISP Stecker sinnvoll - wenn die Standard Bauform nicht passt ggf. auch eine andere Form (z.B. 6 Pins in einer Reihe). Es geht aber zur Not auch mit Programmierung über Bootloader (RS485). Die GND Leitung zwischen µC und dem Max485 ist reichlich lang, aber das ist ja nur ein digitales Signal. Das sollte noch gehen, auch wenn es keine ideale Verbindung ist - als Gewisser Ersatz ggf. die VCC Leitung etwas dicker machen und noch einen Abblockkondensator dicht am MAX. Das mit dem Elko am Optokoppler könnte hinkommen, die Pulse ließen sich aber auch in Software berücksichtigen. Nur der Widerstand an der LED Seite des Optokopplers sollte kleiner werden, die Spannung ist mit 2 Dioden (ca. 1,2-1,5 V) sowieso schon sehr knapp. Die extra Diode muss nicht unbedingt, denn 1,5 V als Sperrspannung kann der Optokoppler ab.