El formato m2ts es el que graban las cámaras al pasarlo al PC. No hace falta modificarlo para poder visionarlo en la PS3, solo asegurarte de que lo capturas a lo que graba tu cámara(normalmente a 30fps) y no a 24 fotogramas o cosas raras. También tienes que tener en cuenta que si estás usando una HDV los archivos te pesarán más de 4Gb posiblemente, con lo que tendrás que partirlos. Yo lo recomiendo antes que comprimirlos y perder calidad.
Lo mejor para manejar y retocar archivos de cámara es el Adobe Premiere pro. Aunque solo lo quieras para convertir un archivo a otro el codificador que lleva es de lo mejor.