die dünnen kabel habe ich schon mal zusammengebracht. ist der motor jetzt im eimer?
Nein, so schnell geht der nicht kaputt. Er braucht dann nur übermäßig Strom, wird schnell warm und kommt nicht auf höhere Drehzahlen.

deine reihenfolge und jede andere funktionieren nicht.
vielleicht habe ich ja auch die platine geplättet?
Möglich. Die Treiberplatine hat ein Poti für die Strombegrenzung. Ist das vielleicht auf Null? Zum probieren etwas aufdrehen.

was muss ich an den 4 ausgängen für den motor messen können? wieviel volt?
das ist nicht ganz einfach zu beantworten, weil bei den Ausgängen rechteckförmige Wechselspannung herauskommt.
Wenn der Motor nicht angeschlossen ist und Du hast die Treiberplatine so angesteuert, dass sich der Motor drehen sollte, dann muss an den Ausgängen eine Wechselspannung messbar sein. (das Voltmeter muss auf Wechselspannung eingestellt werden). Die Spannung sollte ganz ungefähr in der Größenordung der Ausgangsspannung des Netzteils liegen.

Die interne Spannungsversorgung (5V) kommt übrigens nicht aus der Schnittstelle, sondern wird vom 78XX erzeugt. Das könnte man auch mal mit dem Voltmeter prüfen (Messbereich hier: Gleichspannung).

Wenn der Motor angeschlossen ist, ist die Spannung zum Teil wesentlich geringer (wegen der Strombegrenzung), deshalb meine Empfehlung den Motor zur Spannungsmessung abzuklemmen.