Para empezar puede que los menus esos no estén hechos para funcionar en una versión 3.40, aun así ponga que si lo son.
A mi tmb me pasó eso.
Lo q tendrias q hacer es flashear toda la memoria flash0 es decir, o te bajas algun homebrew para la psp para que te libere memoria en tu flash0 o te bajas otro homebrew (creo q es XMB tuning o custom del cual hay un post por este foro) que sirve para reemplazar los archivos directamente desde el XMB (XMB a flash0) o para que modifique algunos plugs de la flash0 (.prx) y que en vez de leer los archivos "topmenu_plugin.rco" de la flash0 los lea de la Memory Stick.
Eso si, que separ que estás tocando la memoria flas de tu psp y corres el riesgo de brickearla.
Lo de que se te que da colgado en el menu de unicio (XMB) es un "semibrick" (llamalo así para que te eniendan mejor). Para solucionarlo basta con que la apagues, encuendas en modo recovery y restaures el archivo que habias cambiado.
Eso es debido a que los archivos que no son originales tienen un peso muy grande en la flash0, que está casi llena. Por eso a vece se te semibrickea.