Quello che stai cercando si chiama "deduplicazione". Sebbene sia solitamente implementato da fornitori di prodotti di archiviazione specializzati, anche il filesystem ZFS lo implementa. La maggior parte dei sistemi operativi derivati da Unix può utilizzare ZFS, pertanto lo consiglio come primo posto in cui cercare.
Network Appliance, Inc. ha avuto capacità di archiviazione come questa per molti anni, infatti hanno presentato reclami a Sun Microsystems per il loro file system ZFS e fa ciò che Aaron Miller sta menzionando nella sua risposta accettata. Per quel che vale, i reclami sono stati risolti con Oracle dopo circa 3 anni.
L'ho usato come soluzione aziendale dal 2000 e funziona bene. Il costo dell'archiviazione dopo la prima "copia" si verifica quando si verifica una modifica nel file. Altrimenti, con molte 'copie' arriva solo un leggero aumento per lo spazio dei nomi.
Non credo che questo risponda alla domanda sul "livello di sistema operativo", ma piuttosto sul "livello di file system".