Primero, M2TS y MKV son CONTENEDORES DE VIDEO, que no es lo mismo que FORMATO DEL STREAM DE VIDEO.
Segundo, el formato del stream de video mas comun en video en BRD es el h264, aunque tambien hay en formato VC-1 [variante de wmv-9], asi que en si buscas una manera de recodificar el video a h264 reduciendo el bitrate para reducir el peso del stream de video obtenido y despues Multiplexar el stream de video mas los stream de audio en un solo archivo contenedor. MKV, AVI y MP4 son contenedores que admiten varias pistas de audio, AVI y MKV incluso aceptan la creacon de menus interactivos [similares a los de un DVD-Video.], MP4 no tiene esta opcion.
Lo sencillo seria solo recodificar el stream de video, despues con MKVMergeGUI puedes poner el stream de video que has recodificado mas todos los streams de audio que hayas extraido del contenedor M2TS, MKVMergeGUI creara un archivo MKV y le ira "inyectando" las pistas de audio y video, es decir solo copia las pistas dejando intacta la calidad.
El software MEDIACODER permite la recodificacion del video y dejar intacto el audio, o incluso omitir el audio dejando solo el stream de video, esta opcion la uraria para crear un archivo MKV o MP4 con solo la pista de video recodificada, despues usar MKVMergeGUI para unir el video que has recodificado mas las pistas de audio del archivo original.
MKVMerge es parte del paquete de programas MKVToolNix, que bajas del sitio oficial de Matroska.
http://www.bunkus.org/videotools/mkvtoo ... e-4.8.0.7z
Si lo quieres [m2ts>mkv] sin recodificar tienes esta opcion:
http://modding.mx/foro/index.php?/topic ... avc-a-brd/de MKV>M2TS
http://modding.mx/foro/index.php?/topic ... a-blu-ray/ 
