Das ist leider plattformabhängig und nicht im Standard-Java.
Als API gibts ne commapi (javax.comm)

Da gibt's so was wie

SerialPort.IsDTR() etc oder .notifyOnCTS(), zusammen mit .addEventListener() und Implementierung von SerialPortEventListener