Finalmente ho capito cosa fosse. Dopo aver annullato il ridimensionamento originale (solo un semplice ctrl+C), ho eseguito e2fsck -f -y /dev/sdb3 per correggere eventuali problemi che ho fatto. Sono stato in grado di montare la partizione ancora sotto la dimensione originale, quindi nessun dato è andato perso. Ho quindi eseguito resize2fs con il flag di debug (resize2fs -d 14 <xxx> ) e ho notato che era bloccato in un ciclo costante nel tentativo di riposizionare un blocco di inode.
Finalmente sono riuscito a farlo funzionare usando un vecchio versione di e2fsprogs. Ho messo Ubuntu 9.10 (Karmic Koala) su una chiavetta USB, l'ho avviato, ho installato i driver rr232x open source in modo da poter manipolare l'array ed ho eseguito la versione precedente di e2fsprogs (resize2fs 1.41.9 (22-ago-2009) , per l'esattezza).
Inizialmente avevo provato il resize2fs -p /dev/sdb3 863000000 , e mi aveva detto che richiedeva circa 26 milioni di blocchi. Quindi ho preso la dimensione target, l'ho aggiunta e ho fatto resize2fs -p /dev/sdb3 1000000000 . 10 minuti dopo vengo accolto con il messaggio:
/dev/sdb3 è ora a 1000000000 blocchi
Ora immagino che la domanda finale sia perché la versione più recente di e2fsprogs non poteva/non voleva dirmi che stavo chiedendo una dimensione troppo piccola (e perché offriva una dimensione così piccola in primo luogo)?