Hola:
Creo que la cosa funciona asi; tanto el mkv como el vob son "contenedores" donde se meten el video, el audio, subtitulos etc... El formato mkv no lo reproducen ni la ps3 ni la xbox360. La gracia es la siguiente. El contenedor mkv admite video en HD y el vob no, pero a la hora de abrir el archivo eso a la ps3 le da igual y tira pa'lante con el video en HD, cosa que la xbox360 no hace. En resumidas cuentas los vob en HD q la ps3 si puede leer la xbox360 no los leera. Lo que tienes que hacer es pasarlos a WMV HD.
Espero haberte ayudado.
Scoco