Yo personalmente para manejar películas en la PSP a un nivel más o menos medio, recomiendo el "PSP Video 9".
Permite al novato de turno en muy poco tiempo y casi sin tener que saber ni toquetear nada su Película lista y convertida con un acabado muy bueno. Así como permite al usuario más avanzadillo un toqueteo de configuración más para contentar al peliculero más exigente.
Yo recomiendo y uso este programa, buscando la mejor calidad, ocupando el tamaño que precise (tengo la de 1GB más para películas que para otra cosa. Es el uso principal que le doy a la PSP; "Cine en Casa", o casi más... "Cine en Cama"
) haciendo Dos Pases siempre y suele tardarme como 3 o 4 horas por Película (de unos 950MB aprox siempre)
Para ser justos no puedo obviar que haya por ahí programas que seguramente reduzcan ese tiempo, o tal vez no, pero den calidades igualmente aceptables o mejores.
PD: Incluso haciendo uso de Homebrew he oído (Yo no he probado mucho...) que se tiene a disposición otros formatos como el PMP (Que por ejemplo mejoraría la Calidad, ya que permite, entre otras cosas, un mayor acercamiento al nivel de un UMD o rellenar los 480x272 pixeles de la pantalla) o algunos Reproductores que permiten rular los formatos de video más conocidos (Con lo cual ganarías en tiempo; imagina solo insertar el AVI de tu película en la PSP y verlo directamente)
Repito; de esto no se, no he probado. Mi recomendación personal es el PSP Video 9 por funcionalidad apta un poco para todo el mundo y necesidad...