Buenas,
Lo primero, MKV es un contenedor, lo único que hace es guardar una o varias pistas de video, audio y subtitulos (puede guardar más cosas pero esas son las más comunes), por lo tanto, primero tendrás que extraer las pistas que tienes en él. Para eso usa mkvtoolnix que estará en los repositorios de tu distro. mkvtoolnix tiene varias utilidades, las que te interesan: para descomprimir mkvextract y una vez tengas comprimidas las pistas mkvmerge.
Una vez tengas las pistas descomprimidas, tendrás que mirar en que formato están (lo más normal son peliculas en HD será x264 para el video y aac, ac3 o dts para el audio). Para x264 puedes usar "x264" a pelo (también estará en los repos de tu distro), o usar alguna interfaz como ffmpeg.
Para el audio creo que con ffmpeg podrás.
Busca por internet manuales de esas utilidades que están bien documentadas.
Agur!