Vamos a ver, si lo entiendo bien lo has instalado compilando pero has cometido varios errores, primero, lo has compilado sin habilitar el entorno gráfico, es decir, en el proceso de instalación necesitas poner lo siguiente:
./configure --enable-gui
make
#make install
Nótese que el enable-gui del configure habilita la posibilidad de usar el gui gmplayer
En segundo lugar has instalado el mplayer pero nole has dado soporte para los codecs win32, más que nada porque se los has metido después de la compilación y deberías haberlos copiado antes a la carpeta win32.
Probablemente tengas el mplayer perfectamente instalado, pero sólo lo podrás ejecutar desde consola, para ver un vídeo necesitas escribir:
mplayer NombreDelVideo.avi
Y se iniciará el vídeo, si quieres tener una interfaz gráfica necesitarás recompilarlo como te he inidcado antes y añadirle a tu directorio ~/.maplayer/Skin un skin para la interfaz.
Un saludo.