Um den nötigen Kühlkörper abzuschätzen braucht man einige Angaben aus dem Datenblatt.
Zuerst ist es wichtig zu wissen, wieviel Leistung im L298 als Wärme abfällt. Die Verlustleistung wird in erster Linie in der H-Brücke entstehen (die zusätzliche Logik kann man wohl vernachlässigen). Die Verlustleistung rechnet sich als Produkt der Ströme und der Spannungsabfälle im Baustein.
Beispiel: Du gibst einen Strom von 2A vor, die abfallende Spannung kann man aus Fig. 1 des Datenblatts für den Highside und Lowside Transistor abschätzen, etwa 2 Volt High und 1,75 V Low, zusammen etwa 3,75V. Das ergibt eine gesamte Verlustleistung im Baustein von: P = 3,75V * 2A * 2 Brücken = 15 Watt.
Aus dem Datenblatt ebenfalls ersichtlich ist die maximale Betriebstemperatur des Halbleiters (130°C) und der Wärmeübergang Halbleiter-Gehäuse zu 3K/W. Wenn wir den Halbleiter bis zum äußersten ausnutzen (130°C) darf das Gehäuse maximal 130°-(15W*3K/W)=85°C warm werden.
Die Differenz zwischen 85°C und max. Umgebungstemperatur muss der Kühlkörper aufnehmen, wenn man diese Differenz mit 45°C ansetzt muss der Kühlkörper also wenigstens 45K/15W = 3K/W haben.
In dieser Abschätzung ist noch keine Sicherheit eingebaut, je nach Wahrscheinlichkeit der maximalen Ausnutzung und der maximalen Umgebungstemperatur müsste man noch einen Sicherheitsfaktor einschließen.