Te daré dos posibilidades.
Una, cargando el emulador con iRShell y usando su capturador.
Dos, flashearte, por ejemplo, el capture.prx en la carpeta kd de tu flash0 y añadir al archivo pspbtcnf_game.txt (de kd, ojo) una línea con su ruta. Mas o menos así:
Luego guardas el pspbtcnf_game.txt y listo.
Cuando te meteas a cualquier homebrew podrás hacer capturas.
Si lo quieres para los juegos, pues tienes que editar el mismo archivo, pero esta vez tiene que ser el de la carpeta kn, aunque es un poco absurdo porque para eso puedes meter el plugin en la carpeta seplugins y añadirlo al game.txt (como has dicho antes).
Salu2.