Yo usaba el PSPlayer MT, creo recordar.
Como ventaja comprimiendo en divx es que puedes ver las peliculas a la resolucion completa de la psp, cosa que no se puede en MP4.
Necesitas recomprimir la pelicula con esa resolucion, ya que si pones más, falla.
La forma mas rapida de hacerlo es con el virtualdub, modo fast recompress, y en las opciones de divx pones el resize a esa resolucion, o a una parecida si ves que se podria deformar, eso si, nunca te pases de esos 480.
Si mal no recuerdo yo lo hacia a una calidad de 500kbs y me tardaba unos 30 ó 40 minutos en un amd a 1666 mhz, ocupandome la pelicula unos 350-500 megas. La calidad es bastante decente.