Intenta instalando el ultimo Microsoft Framework .NET para 64bit, pero si te dicen que no soporta Windows 64bit los propios desarrolladores me da que lo tienes crudo. Y por virtualizacion nunca verás la tarjeta grafica real si no una virtual casi como el resto del equipo. (graficos, sonido, controladoras de disco, etc... todo es virtual)
La verdad es que te encuentras en un problema, virtualizaciones no ven la grafica real, la grafica virtual tiene limitaciones, y en Windows 64bit no puedes usar el programa... bajar a un Windows 32bit no es una solucion buena, pero el gasto de comprar la ultima version de Teowin para 64bit no es viable...
¿VirtualBox lo probaste por si tuviese mejor soporte grafico 3D en la virtualizacion? (aunque creo que había que instalar un driver en "modo seguro" para tener 3D)