Su Linux puoi eseguire $(dirname $(dirname $(readlink -f $(which javac))))
Su Mac puoi eseguire $(dirname $(readlink $(which javac)))/java_home
Non sono sicuro di Windows ma immagino where javac ti porterebbe molto vicino
echo $JAVA_HOME stamperà il valore se è impostato. Tuttavia, se non l'hai impostato manualmente negli script di avvio, probabilmente non è impostato.
Se provi which java e non trova nulla, Java potrebbe non essere installato sulla tua macchina, o almeno non è nel tuo percorso. A seconda della distribuzione Linux che possiedi e se disponi o meno dell'accesso root, puoi andare su http://www.java.com per scaricare la versione che ti serve. Quindi, puoi impostare JAVA_HOME in modo che punti a questa directory. Ricorda che questa è solo una convenzione e non dovrebbe essere usata per determinare se java è installato o meno.