Hai bisogno di un altro argomento, si aspetta di leggere un certificato dall'input standard. Probabilmente intendevi aggiungere -new come argomento della riga di comando, oppure devi passare un certificato esistente su standard in.
Ho riscontrato lo stesso problema durante l'utilizzo di GitBash in Windows 7, dopo ore di ricerca questo ha risolto il mio problema:
winpty openssl genrsa -out ../private.pem -aes256 4096
Potrebbe darti un'idea di cosa è necessario.