Sobre qué versión de VMWARE trabajas? la SERVER o la WORKSTATION? Tienes la útlima versión del VMWARE? Recuerda que la última versión del VMWARE WORKSTATION es la 6.5.1 (tiene soporte para aceleración 3D, creo que las anteriores no) ..que da soporte a versiones del Workstation 6.5, 6, 5 y la 4. Si corres una versión antigua del VMWARE , puede que la versión de DEBIAN que instalas no sea 100% compatible con tu versión.
Por el contrario, recuerda instalar las VMWARE TOOLS, qué són las utilidades que necesitas para finalizar correctamente, la instalación correcta de los sistemas operativos virtuales (para instalarlas, en los menús sale la opción).
En caso contrario, tal y como dice KABANYA, puedes probar VIRTUALBOX, que es gratuïto, y también va perfecto...aunque "creo" que no da soporte a aceleración 3D.