Friede seiner Asche!

Bezüglich des Kühlkörpers:
- Hast Du Wärmeleitpaste verwendet? Ansonsten wird die Wärme vom Transistor nicht zum Kühlkörper geleitet.
- Hast Du den Kühlkörper so angebracht, dass er die Wärme selbst an die Umgebung abgeben kann? Ansonsten speichert er auch nur die Wärme, bis er sich auf die Temperatur des Transistors erhitzt hat, danach ist Schicht.
- Hast Du den Kühlkörper mal im Betrieb angefasst/ gemessen? (wenn Du Dir die Flossen verbrennst, eher einen größeren suchen).
Wahrscheinlich aber auch: Hast Du eine Freilaufdiode antiparallel zum Motor (also mit dem + am Drain des Transistors und dem - an der Versorgungsspannung angeschlossen? Wenn nicht, treibt Dir die Induktivität des Motors wahrscheinlich sehr schnell die Spannung UDS über die vom Transistor vorgegebenen 30V.

Ich versuch's mal so zu erklären: Induktivitäten tun den Strom verspäten.
Schaltest Du die Motorspule ein, beginnt der Strom zu fließen. Beim Abschalten fließt der gespeicherte Strom weiter von Ub bis zum anderen Ende der Spule. Hier treibt er (nach ohmschen Gesetz U= R*I, I ist da, R ist hoch, also geht U auch hoch) die Drain-Spannung am Ende der Spule über die Maximalspannung des Transistors (hier 30V!).
Die Freilaufdiode leitet diesen kurzfristig Überspannung erzeugenden Strom zurück auf Ub (so sie denn schnell genug ist und sie nicht selbst dabei abbrennt. Also Schottky-Diode suchen mit ausreichendem Spitzenstrom, auch hier wieder Wärmeabfuhr beachten).

Wäre ja langweilig, wenn's einfach wäre