Por lo que tengo entendido el reproductor miltimedia no se lleva muy bien con los mkv (aunque estan soportados) si se envian por DLNA.
Puedes proibar con un servidor de DLNA alternativo (serviio) y ponerle que la transcodificación la hace el PC, así la xbox no lo descomprime...
De todas formas esperemos que a partir de septiembre todos estos problemas desaparezcan con W10 en la one y algun reproductor universal (VLC media player), aunque todo esto está por confirmar...