tantas conversiones no pueden ser buenas, y mucho menos si te reducen un 40% el tamaño del fichero...si ya de por si los mkv son compresiones, imagino que el resultado de estos mp4 deben ser bastante malos vistos en un LCD de tamaño estandar......el mp4 o bien reduce definicion o tasa de datos transmitidos....
lo que yo hago es simplemente pasar con el mkv2vob el mkv a vob (output file extension), automatic (video transcoding) y x264 (transcoding codec). Para resultados como se comentan en el pos anterior (mp4), es decir, menor tamaño y menos calidad puedes cambiar el transcoding codec a xvid o mpeg2.
Con estas opciones tendria que funcionarte sin problemas en la PS3, por wifi no consigo verlo sin relantizaciones pero pasando el vob a la ps3 ningun problema.