Bevor Du irgendwas mit Funk machst, wäre es vielleicht erst mal gut, sicher zu stellen das eine serielle Übertragung ausserhalb des Loaders überhaupt 100% sicher funktioniert. Es müsste z.B. möglich sein, sich mit Hyperterm an die serielle mit 38400 baud zu verbinden (ohne Funkmodul) und auf dem rp6 eine Art Echoserver laufen zu lassen - so das also jedes Zeichen vom Terminal korrekt vom rp6 zurück gesendet wird. Erst wenn das funktioniert würde ich mit dem Funkmodul basteln denn sonst jagst du 2 oder mehr Probleme gleichzeitig.
Zudem hat der rp6 base eine Taktfrequenz von 8 MHz (ist in der RP6RobotBase.h definiert)

#define F_CPU 8000000 //Base: 8.00MHz - DO NOT CHANGE!

damit berechnet sich das so:

#define UART_SETTING ((F_CPU/(16*UART_BAUDRATE))-1)

Das MUSS auch bei Funk so sein... es kann aber sein das das Funkmodul selbst eine andere Baudrate braucht... 57,6k ... da hab ich keine Ahnung von, müsste aber aus dem Datenblatt des Moduls erkennbar sein.
LG Rolf