Lo que pasa esque te dice que no puede seguir porque le falta el codec de AC3, toma instalatelo y reinicia.
Enlace directoTambien puedes hacerlo directamente desde VirtualDub, para mi es mas... mmm mejor, elijes tu como quieres todo.
Los pasos serian.
Abres VirtualDub.
File - Open Video file (y elijes la pelicula)
Pinchas en Audio y marcas la opcion Direct Stream Copy (solo si la pelicula esta en AC3, para conservar el audio tal cual)
Pinchas en Video y marcas la opcion Full Processing Mode, y despues pinchas en Compression, te saldra una ventana nueva con los codecs disponibles que tengas instalados.
Elijes uno que pone DivX 6.8.x xxxxx y le das a Configure, te sale la ventanita de configuracion de DivX, elijes el modo o Perfil Home Theater, La calidad (no pongas menos de 1024kpbs y tampoco te pases jeje, unos 1200 y 1600 esta bien) y listo.
Haber si un dia hago un peque-tuto para que lo veas mejor.
Un saludo