Grazie per l'aiuto a tutti!
Si scopre che si trattava di un conflitto iptable. Due regole che elencano la porta aperta (che ha portato a una porta chiusa).
Tuttavia, uno dei commenti di aka e un altro di manu2013 erano problemi in cui mi sarei imbattuto, se non fosse stato per il conflitto.
Così! Ricorda sempre di modificare il /etc/mongod.conf file e imposta il tuo bind_ip = 0.0.0.0 per effettuare collegamenti esterni.
Inoltre, assicurati di non avere regole in conflitto nel tuo iptable per la porta richiesta da mongo (vedi il link sul sito di mongodb per configurare correttamente iptables).
Prova quanto segue:
sudo rm /var/lib/mongodb/mongod.lock
sudo service mongodb restart