Prova a convertire hex in base64. Questa risposta è un'opzione. Ci sono un certo numero di altre implementazioni.
Come posso convertire da esadecimale a base64?
Forse qualcosa come:
echo mydata | sha1sum | xxd -r -p | base64
... risolverebbe il tuo problema.
Vedi https://unix.stackexchange.com/questions/82561/convert-a-hex-string-to-binary-and-send-with-netcat per domande simili.