Nils, ich glaube, du musst dich doch noch etwas tiefer in die Regelungstechnik einarbeiten. Du solltest schon wissen, wie sich ein Massenträgheitsmoment in einem Regelkreis auswirkt. Zudem solltest du die dynamischen Grundelemente eines Regelkreises, wie z.B. Integrator und die verschiedenen Reglertypen (P, I, PI, PD, PID) kennen. Sonst sehe ich schwarz, um so eine Aufgabe, wie du dir gestellt hast, zu stemmen.

Ich will dir jetzt nicht den Spass verderben. Nein, im Gegenteil, ich will dich anspornen, damit du dich auch rein kniest um die Kenntnisse zu erlernen die du dafür brauchst. Denn nur mit dem richtigen Know How wirst du auch ein Erfolgserlebnis haben. Ich kann dir leider nicht die Regelungstechnik über dieses Forum vermitteln, dazu ist die Technik viel zu komplex. Ich versuch es mit einer Hilfestellung.

Das was ich über die Elemente deines Regelkreises weiss:
Wippe mit Trägheitsmoment, angetrieben durch Propeller = Integrator (I-Glied)
Motor und Propeller mit Trägheitsmoment = Verzögerungsglied (PT-Glied)
Sensor mit Abtastrate = Verzögerungsglied (Totzeit = halbe Abtastrate)

Bis auf die Abtastrate sind die Zeitkonstanten nicht bekannt.
Damit keine Regelabweichung übrig bleibt, sollte im Regler ein I-Anteil sein. Ein reines I-Glied im Regler geht aber nicht, da dann 2 I-Glieder im Regelkreis wären und das schwingt auf jeden Fall. Also bleibt vorerst nur die Realisierung mit einem PI-Regler übrig.

Vorgehensweise zur Bestimmung des PI-Reglers:
Zuerst nur P-Regler realisieren und den P-Anteil soweit erhöhen, bis die Regelung schwingt. Dann den P-Regler durch den PI-Regler ersetzen, wobei der P-Anteil nur noch 1/3 des reinen P-Reglers ist und die Grenzfrequenz des PI-Reglers um den Faktor 3 niedriger als die Schwingfrequenz ist.
Damit sollte die Regelschleife stabil sein.

Eine weitere Optimierung (mit z.B. PID-Regler) wird nicht ohne Simulator oder exakte Berechnung möglich sein.

Aus meiner Sicht (aus der Ferne) ist der begrenzende Faktor die Zeitkonstante des Motors/Propellers. Wenn du die Schleife schneller machen willst, dann da zuerst ansetzen.

Ich hoffe das erschlägt dich jetzt nicht, ist etwas viel geworden.
Gruss Waste