Also wenn ich die Punkte aus dem ersten Post einsetzt, bekomme ich einen Winkel von 42° (soll 90°)
und 27° (soll 45°).

Kann es sein, dass sich in der Winkel-Formel noch ein kleiner Fehler eingeschlichen hat, oder liegt der Fehler in der Messung?