Bueno abra que hacer unas aclaraciones primero:
* Contenedor, aqui seria a lo que llamamos "archivo de video", en este archivo contenedor de video viene el stream de audio -uno o mas-, el stream de video y en algunos los subtitulos. AVI, MP4, MKV, FLV, MOV, WMV, OGM, RMV son algunos contenedores muy populares, aparte, la compañia DIVX usa el contenedor AVI como contenedor por default, solo que lo renombra como *.DIVX pero le puedes cambiar la extension a *.AVI sin problemas y poderlo reproducir ya que repito,l es un archivo AVI renombrado.
* Formato de video, este es el stream o datos de video que hemos codificado, DivX/XviD, MPEG-1, MPEG-2, WMV8, h264, WMV9, RV30, RV40 son algunos formatos de video muy populares. El contenedor AVI, MKV y MP4 pueden tener stream de video en formato DivX/XviD y h264 entre otros.
* Formato de audio, es el stream de audio o datos de audio que hemos codificado, los formato mas comunes de audio son AC3, DTS, AAC, MP2, MP3, WMA. El contenedor AVI, MKV y MP4 pueden tener varios stream de audio, por ejemplo para tener el audio en diferentes idiomas, tambien el stream de audio opuede ser multicanal -desde un canal de audio en adelante-.
El contenedor AVI, OpenAVI usado por la compañia DivX puede albergar MENUS interactivos, tambien el contenedor Matroska Video [MKV] puede tener estos menus interactivos.
Si es un reproductor DVD el video debera estar en formato MPEG-1 o MPEG-2 o DivX/XviD -contenedor AVI o MP4 o MKV-, con dimensiones maximas de 720x480 [NTSC] a 29.97fps, o bien, a 720x576 [PAL] a 25fps. El audio puede estar en MP3 o MP2 o en AC3 o en DTS o en AAC. El contenedor MP4 no se suele llevar muy bien con el AC3 multicanal ni con DTS; aunque en las ultimas versiones del multiplexor MP4Box y similares ya se ha corregido esta deficiencia, por ello es mejor usar AVI o MKV en caso de audio AC3 multicanal.
Puedes usar DivX Converter Plus, o MediaCoder o video.NET para la recodificacion, pero debes usar las caracteristicas estandar de un DVD-Video:
Dimensiones.
NTSC 720x480@29.97fps
PAL 720x576@25fps
Audio no mas de 48KHz como frecuencia de muestreo a 128Kbps o 160Kbps o 192Kbps o 224Kbps.
Como dije antes, puedes usar formato de video DivX o XviD o MPEG-2 o MPEG-1.
Esto del video anamorfico quiza tambien te ayude, porque seguro tu video tendra una proporcion de 16:9:
Video en tamaño Real en que fue codificado [720x480], PAR 4:3

Video reproducido y mostrado en pantalla [1152x480], DAR 22:9
hilo_problemas-mkv_1598552hilo_resolucion-para-capturar-vhs_1631584