Cada dia que pasa estoy mas convencido que el problema con el Nero Recode está en el container mp4. He estado mirando que hace el 3gp_converter, y asi a ojo lo que hace es usar el ffmpeg para comprimir el video con xvid y el audio en aac. Luego con el QT3GPPFlatten no se muy bien que hace, ¿es posible que convierta el xvid a h264? y crea el contenedor mp4 (video y audio), para ello utiliza el quicktime. Por ultimo usa el AtomChanger que cambia los atoms (algo asi como cajas, una para el video otra para el audio, subs, etc) y le pone nombres diferentes, porque supongo que el player de la psp requiere esos nombres exactos, y no utiliza los estandar por joder.
Por ultimo usa el ffmpeg para crear una foto de un frame del video, hace un thumbnail, que es el archivo .THM
Lo jodido del asunto es encontrar una manera de cambiar los atom del fichero creado por el recode, y para mas fastidio no se el formato del container mp4 (que es abierto) y llevo un rato con el editor hex pero solo he conseguido descifrar unos 20 bytes de la cabecera.
Si alguien se fija, el fichero del nero recode tiene una cabecera mas grande, que la del 3gp, en la cual enseguida empiezan los datos del video.
Creo que voy a intentar entender que hace exactamente el QT3GPPFlatten.