Könnte es sein, dass deine Peakspannung der Rechtecke nur 0,5V beträgt ? Dann ist es kein wunder dass der Atmega nichts registriert. Du bist damit unterhalb der Grenze bei der das Signal als High erkannt wird.