Das ungeregelte System hilft dir da auch herzlich wenig bei, würd ich sagen. Das ist schon linearisiert worden, wie es aussieht, oder? Das nichtlineare System würde bei vorgegebenem Anfangswinkel und Anfangswinkelgeschwindigkeit lediglich sagen, wie der Verlauf des Winkels danach verläuft. Da kommt dann noch das Antriebsmoment des Motors dazu, das dann aber geregelt wird, und zwar in Abhängigkeit irgendwelcher am Pendel gemessener Größen, vorzugsweise den Winkel.
Im Versuch würde es dann so aussehen, dass du wahrscheinlich das Pendel irgendwo nahe der oberen Ruhelage bewegst und dann den Regler einschaltest. Das höchste Moment würde dann (bei einem stabilen Regler) zum Start hin auftreten, wenn du meinetwegen bei phi=25° und phi'=0°/s startest. Beim Testen wären allerdings höhere Momente förderlich, da der Regler wahrscheinlich nicht unter Garantie auf Anhieb optimal wird. Eigentlich würde ich da eher überschläglich rechnen und grob aufrunden, denn Leistungsreserven kann man immer gut gebrauchen. Interessant ist aber auch die Frage, ob ein Getriebemotor gut wäre oder eher nicht, wegen weiteren Nichtlinearitäten im System (Spiel, Reibung, Losbrechmoment).
Wenn du das nötige Motormoment trotzdem lieber genau haben möchtest, wäre eine Simulation mit Matlab/Simulink sinnvoll. Da könntest du dein System mit Regler dann implementieren und Abhängig von der Sprungantwort zB. dir den Winkelbeschleunigungsverlauf oder gar den Momentenverlauf ausgeben lassen. Da kannst du dann sehen, wo die Maximalwerte liegen.