Man könnte natürlich auch einen Mindestabstand festlegen.
Dazu musst du aber alle Abstände berechnen,
d.h. von jedem Kreis zu jedem anderen Kreis.

EDIT: Eine weitere Überlegung: wie stellst du sicher, dass die
eingezeichneten Kreise auch vollständig in der Pixelform drin sind?

EDIT2: Vielleicht könntest du schon mit einfachen Formen anfangen.
Wie würde der Algorithmus z.B. 5 Punkte in einem Dreieck unterbringen o.ä.?