Puedes tener algun filtro de audio y postprocesamiento que esta creando la salida estereo a partir de la señal 5.1, revisa eso y configura que la salida sea bitstream para que no la modifique.
si da PCM es que esta recodificando a salida de audio WAV sin compresion pero no es la señal original DTS o AC3, como decia debes indicarle que la salida sera BitStream o RAW para que solo se dedique a enviar la informacion tal cual sin modificar y que el receptor/amplificador/decodificador digital HT sea el encargado de la decodificacion del audio.
Deberan configurar el codec de audio AC3 y el panel de control de la tarjeta de sonido.
en MPC-HC en OPciones>Reproduccion>Salida en Audio DirectShow deberas indicar el dispositivo de salida que quieres si el analogo o el digital.
Ah, miren viendo la pagina de AC3Filter esta este programa
Spdifer
From AC3Filter
Jump to: navigation, search
Spdifer is a DirectShow filter that allows media players to passthrough multi-channel sound to the digital (SPDIF) output without any change, so an external receiver can decode it.
http://ac3filter.net/wiki/Spdiferque seria lo que buscas, dejar la salida SPDIF tal cual sin modificar que seria el BitStream o RAW que les decia.
SI usan AC3Filter pueden usarlo porque son las mismas opciones de este spdifer