So. Das Problem wurde erkannt und gebannt.
War heute im Labor und bin nochmal alles durchgegangen. Wie zu erwarten keine Fehler in der Hardware. Hab dann den Prozessor eines Freundes in meinem NIBObee verbaut und schon funktionierte alles (serielle Schnittstelle und die Liniensensoren). Wir haben dann mal die Prozessoren verglichen und festgestellt, dass mein Atmega noch (oder wieder) auf den internen Takt von 1 MHz getaktet war. Schnell im Internet nachgehschaut wie meiner gefused sein soll und schon war das Problem Geschichte.
Danke an alle die geholfen haben.