Per riprodurre vlc nella riga di comando senza avviare un'interfaccia utente, sembra che questa pagina abbia ciò di cui hai bisogno.
Nello specifico, penso che tu voglia questo comando:
vlc --intf dummy vcd://
Questo specifica un'interfaccia fittizia che non avvia mai realmente nulla. Non posso provarlo perché sono lontano dalla mia macchina Linux in questo momento, ma ecco il comando completo che penso tu stia cercando:
vlc --intf dummy <stream>
Per usare vlc senza interfaccia, uso solo questo comando:
cvlc