Questa funzione non è ancora supportata in Virtualbox.
Il tuo unico software di virtualizzazione alternativo che supporta questo di cui sono a conoscenza è Qemu e Xen e possibilmente VMWare . La maggior parte delle storie di successo sul passaggio dalle GPU alle macchine virtuali provengono da Qemu o Xen, quindi ti suggerirei di rivolgerti a questo fino a quando Virtualbox non lo supporterà.
C'è un blog dedicato all'argomento (questo è il loro tutorial del 2015 su come farlo con qemu come focus) che potresti voler esaminare.
Tieni presente che VGA Passthrough è ancora una tecnologia molto sperimentale e richiede combinazioni scheda madre/CPU che supportino caratteristiche molto specifiche, e di solito richiede anche una configurazione personalizzata del kernel per poter effettivamente accedere a queste funzionalità da Linux (per poter usare nella macchina virtuale).
Alla luce di ciò, cerca di non sovraccaricare. È molto probabile che ti imbatti in bug o problemi che possono rendere il tuo sistema fisico o virtuale instabile o in qualche modo inutilizzabile durante l'utilizzo di VGA Passthrough. Non aspettarti che funzioni completamente, né facilmente. Hai bisogno di fortuna perché ciò accada davvero.