Hallo,
ich hab gerade einen AT90CAN64 vor mir. Leider hab ich aber keine RS232 drauf.
Da sich an den Pins nichts tut und die init für mich recht vernünftig ausschaut. Kann's eigentlich nur noch daran liegen, dass die Pins irgendwie falsch konfiguriert sind. Hast Du da schon mal geschaut?
Vielleicht kannst Du auch zum testen mal die andere USART verwenden?

drew