Para tener la misma calidad de video seria necesario la copia directa del stream de video, es decir, no recodificar, solo pasar el video del contendor *.VOB del DVD a un contenedor *.AVI o a un contenedor MKV, avi soporta el stream de video de formato MPEG-2 que es el usado en el DVD-Video, pero mucho mejor es el contenedor matroska video -MKV-.
Ya si quieres una codificacion a DivX/XviD de tu DVD ya dependera mucho no del software que uses sino del BitRate que estes empleando, aparte de usar la codificacion a DOS-PASOS -el primer paso analiza las escenas y el segundo paso hace la codificacion, buscando obtener la mejor calidad posible con el bitrate empleado-.
