Cuando yo me dedicaba a esto, usaba TMPGEnc Xpress. Eso si, es lento de cojones (7-8 horas en un dualcore a 720p, 15-20 horas tranquilamente a 1080p)
Pérdida de calidad ninguna (con otros programas si que la he visto), y sonido en 5.1, formato de salida Windows Media Video 9 advanced profile, y WMAudio 10 pro. Para ello por eso hay que tener instalado el filtro AviSynth. Entonces se crea un fichero .avs con la ruta del mkv, el audio se extrae previamente con mkvextract, y en el TMPG hay que cargar como fuente de video el .avs y como fuente de audio el audio extraido (si no no pilla el 5.1)
Otra opción sería pasar el video a avi y luego enchufarle el audio en ac3 directamente, probablemente tarde algo menos, pero nunca lo he probado.
Y la otra opción es usar un PC con windows7, y con la última versión de divx podremos pasar mkv a través del media center. No lo he probado aun y no se que calidad da, puesto que se ha de hacer una conversión al vuelo.
salu2