para pasar a m2ts utiliza el tsmuxer y para pasar el vob a mkv utiliza el programa mkvmerger. saludos
PD: para ver las pelis en la ps3 te recomiendo el formato m2ts,ya que asi, prodras rebobinar y adelantar la pelicula, cosa que con archivos .vob creo que no. pd: con el programa tsmuxer prodrás pasar de mkv o vob a m2ts