Benutz doch bitte die Code-Tags, das ist so unübersichtlich sonst.

int m3dmg_getOrientationMatrix( int16_t M ) { <-- so ist auch der Header
Der Header ist falsch. Es muss
Code:
int16_t* m3dmg_getOrientationMatrix( int16_t *M ) {
heißen.