Jur...
Cambiando el nombre y la carpeta, da el mismo error "Datos no compatibles".
La prueba la he hecho ya con una resolución de 320*240 (por si acaso).
El problema parece estar en en la cabecera de la película; mucho me temo que necesita una "firma" para que la lea la PSP.
Es decir, que hasta que Sony no diga cómo hay que hacerlo o con que herramienta (seguramente de ellos) pueda hacerse, no se podrá tocar nada.
Para AVC H.246 el mejor encoder para mi gusto es el Nero Digital.
Un saludo.