en plan lista de compresión y 2 click poco habrá que funcione, si quieres algo mas complejo (aunque en el sea solo tocar poca cosa) tienes Avidemux, en teoría no tendría que tener problemas con el formato MKV y en sus opciones de por si tiene una opción para que te configure todo el solito para PSP (seria cargar video, dar a opcion PSP (H264) en el menu Auto, elegir el bitrate en el codec de video a la izquierda si necesitaras cambiarlo y darle a grabar)