Hi,
also irgendwas stimmt mit deiner RS232 Verbindung nicht. Es scheint so das Variante 1 bei dir richtig angesteckt war. Immerhin kommen ein paar wirre Zeichen. Eigentlich muss nur das Wort "OK" vom Modul zurückkommen. Hast du das Steuerprogramm auch so genommen wie es mitgeliefert wurde. Normalerweise musst du da keine Parameter verändern - nur installieren und starten. Sonst nix!
Solange kein OK im Protokollfenster zurück kommt, hat das Board dich nicht verstanden.
Auch muss normalerweise Hyperterminal funktionieren. Wenn man es richtig einstellt kommen nach einem Rest eine ganze Menge von Meldungen.

Das einzige was du noch prüfen könntest wäre der RSMODE-Jumper links am Motorboard (je nachdem wie du es drehst). Die müssen rechts stehen, also nicht auf der Seite wo TTL steht. Schau dazu am besten nochmal in die Doku.
Wenn das auch stimmt dann muss am Kabel oder Board was nicht stimmen. Hast du die Kabel vielleicht spiegelverkeht gelötet - sowas wird auch oft gemacht. Im Zweifel solltest du vielleicht doch das fertige Kabel besorgen.

Gruß Frank