Sino podés usar el VMWare, aunque es pago (creo que el Virtual Box no), y tenés que instalarle las VMWare no-se-que toolkit que viene con la misma VMWare y es una opción del menú que tenés que ejecutar una vez instalado y funcionando el sistema operativo.
[EDIT]
Sorry, acabo de leer que no querés cambiar de programa... je!
[/EDIT]
Configuración->display->Video->Extended Features: Enable 3D Acceleration
También tenés que tener instaladas en la VM las Guest Additions, acordate.
Son unos drivers que suelen venir en todos estos software de máquinas virtuales, para instalar en los SO que instalás.
Fijate que en un menú del VMware tenés que tener un item que es "Install VMware Tools", eso te monta un CD en la máquina virtual que instala los drivers necesarios para la aceleración 3D, para la integración con el mouse...