Wie die Leutz vor mir schon geschrieben haben.
Die Verlustleistung ist der begrenzende Faktor.
Ich rechne immer mit einer maximalen Gehäusetemperatur des IC's von 80°C.
Bei einer maximalen Umgebungstemperatur von 30°C max. kann der Chip also 80-30 = 50° verheizen.
50 / 37,9 = ~1,3W. Bei max. 6V Spannungsabfall also 0,216A.
Baust Du das Teil in ein Gehäuse ohne Lüftung ein wird das wegen der höheren Ambient Temperatur noch weniger.
Muss der Chip mehr Strom bringen muss man den Spannungsabfall verringern ( maximal bis zur kleinsten möglichen Eingangs zu Ausgangs Spannung = 3V ), oder den Chip mit einem Kühlkörper kühlen.
Ich hab jetzt gerade das Datenblatt nicht zu Hand, Ich meine aber der 317 begerenzt den Strom auch bei 1,5A und schaltet beim Überschreiten der maximalen Chiptemperatur einfach ab.

Wie Du siehst hängt viel von der Umgebungstemperatur und der Konvektion ab, deshalb gibt es da auch keine einfachen allgemein gültigen Berechnungsformeln.
Im Zweifelsfall überdiemensioniert man das Ganze etwas. Das verlängert dann auch die Lebensdauer der Halbleiter.

Ein paar wenige Grundlagen findest Du hier:
https://de.wikipedia.org/wiki/W%C3%A4rmewiderstand.
Thermische Widerstände werden üblicherweise addiert.
Also J to Case + Isolierscheiben mit Wärmeleitpaste + Wärmewert des verwendeten Kühlkörpers.