Vamos a ver, porque creo que tienes un pequeño lio.
DVDecrypter, no te va a "convertir" el DVD 9 en un 5, unicamente vale para volcar el DVD original al HD.
Una vez tienes hecho esto, abres los archivos volcados con el DVDShrink (opcion open files)...recodificala con el DVDShrink y ya está.
Cuando acabe el DVDShrink, guardas el resultado en una carpeta llamada VIDEO_TS, creas otra que se llame AUDIO_TS y grabas ambas carpetas.