En concreto con:
MKvMerge
MKvextractgui
H264info
Avidemux
Aunque sean muchos programas la extracción i conversión son segundos, lo que tarda más es con el avidemux que necesita codificar el sonido, pero es relativamente rapida la conversión, parece un bug del propio porgrama, ya que no deberia hacer falta.
Con el mkvmerge extraes la dos pistas video i audio i las conviertes en mkv
Despues con el mkvextractgui extraes las dos pistas por separado el video H624 i el audio ACC
Ahora con el H264info ya puedes trabajar i convertir el video de 5.1 a 4.1
Una vez tienes el h264 modificado lo vuelves a juntar con el audio con el mkvmerge, es muy importante aqui que en extra options le pongas los frames correctos, se pueden ver con el mediainfo por ejemplo, ya que si no se desfasaria el sonido.
Una vez ya tienes el MKV con el avidemux, en output le dices que el contenedor es MP4 el video en copy i el audio en (copy no funciona) tienes que poner el audio en AAC.
Save, y ya tienes el MP4 preparado para la PS3, la unica pega que he visto es que al avanzar solo te deja a 1.5x seguro que en el H264info debe ponerse algo mas, si alguien puede investigar mejor.