Die Doku...
https://github.com/RobTillaart/PCF8574
...sagt's eindeutig:
Die Klasse PCF8574 hat keine "pinMode"-Funktion (Eine Festlegung Ein-/Ausgang ist lt. DB des Bausteines auch gar nicht softwareseitig implementiert).

Wenn Du am Baustein lesen oder schreiben willst, kannst Du die unter der Zwischenüberschrift "Read and Write" aufgelisteten Funktionen benutzen.

(Alle Aussagen unter der Voraussetzung, dass Du keine andere Lib benutzt.)