@kamuy OK, hagamos lo siguiente:
Vamos a extraer el audio y solo recodificaremos el audio para luego armar un MKV con el audio codificado a DD. Requerimos Mediacoder para la codificacion de l audio, y MKVToolNix para crear el nuevo archivo MKV y MKVEXTRACTGUI para extraer la pista de audio DTS.
MKVToolnix son las herramientas oficiales del proyecto matroska [matroska video y matroska audio]
Pagina y descarga oficial de matroska toolnix. Extraes en una carpeta los archivos que bajas.
https://mkvtoolnix.download/downloads.html#windowsMKVExtractGUI es la interfaz grafica para demultiplexar [extraer] los componetes dentro del contenedor MATROSKA, la version mas rciente es la 2.4, se extrae el ejecutable mkvextractgui.exe en la misma carpeta de MKVToolNix donde este el archivo mkvextract.exe.
*** Extraccion
Abrimos MKVExtractGUI 2.4, y arrastramos a su ventana el archivo MKV del que queremos obtener el audio. Marcas la pista de audio que quieres extraer y pulsas el boton EXTRACT y en unos segundos tendras el archivo de audio DTS [archivo *.dts] en la misma carpeta donde esta el archivo MKV.
*** Recodificacion
Usas Mediacoder, en la pestaña VIDEO desmarcas ENABLE, asi solo se tendra el audio. Arrastra el archivo DTS que has extraido a la ventna de mediacoder y configuras la pestaña AUDIO y la de SOUND como lo venias haciendo, en contenedor puedes usar una de estas dos opciones: RAW STREAM o MATROSKA, en la primera tendras como resultado el stream de audio DD [archivo *.ac3], con el segundo obtendrias el contenedor matroska audio [*.mka] donde viene el archivo *.ac3
*** Armado del nuevo archivo MKV
Vamos a MKVToolNIX, en la ventana del programa, pulsanmos en boton MERGE que aparece en el panel izquierdo, arrastramos el archivo MKV con el video, despues arrastramos el archivo *.ac3 o el *.mka que hemos obtenido de mediacoder. Despues, de la lista 'sujetamos' el audio ac3 que acabamos de insertar y lo 'jalamos' hacia arriba, y que quede debajo de stream de video, porque de preferencia siempre debe estar como primer stream el stream de video, como segundo en adelante el o los streams de audio, y al final los subtitulos y al final-final los CHAPTERS [si es que los hay. No olvides darle un nuevo nombre al archivo MKV que vas a crear
Pulsamos el boton START MUXING y en unos segundos tendras un nuevo archivo MKV con el audio DTS y el audio DD.