Si desestimamos que no hace bien contacto (con lo del papelito), puedes probar esto otro, tiene pintas que sacaste la memoria en un mal momento y se te haya corrompido quedando restos. También puede ser que se habla bloqueado contra escritura (¿puedes formatearla en otro dispositivo?. Prueba esto.
1) Formatea la Memory Stick con FAT32 en el PC, tamaño de unidad 32 kilobytes y desactivar la opción de "Formato rápido". Te recomiendo hacerlo con SD Formatter.
2) Al terminar de formatear, clic derecho en propiedades. Luego en la pestaña Herramientas y dar clic en Comprobar ahora... para detectar los errores de la memoria.
3) Consigue un backup de los archivos y carpetas que genera el PSP cuando se formatea la memory stick en la PSP. Copialas y pégalas en el PC. Básicamente, las carpetas de 'MR_ROOT', 'MUSIC', 'PICTURE', 'VIDEO', 'PSP' (dentro de PSP una GAME) y los archivos MEMSTICK.IND y MSTK_PRO.IND (aunque tengan 0 KB).
4) Apaga totalmente la PSP, coloca la memory stick y enciende la PSP. Si el led deja de titilar como lo hacia antes, es una buena señal, y al arrancar nos muestra el tamaño de la memory stick.