Sería posible corregir los bordes dentados mediante el software de psp?

Q yo sepa eso depende del juego, y el método para eliminarlos se llama anti-alias.No hay que tocar nada de hardware.

Lo que ocurre es que la PSP es una consola portátil, y como tal, está bastante limitada en hardware aunque no lo parezca.Dudo mucho que algún día pongan antialias en los juegos, es un efecto muy costoso en recursos, y en una pantalla tan pequeña como la de PSP no es realmente necesario.A veces se notan un poco, pero con píxeles tan pequeños no es inprescindible.Además, para que la mejoría fuese notoria, deberían tener antialias 4x como mínimo, cosa bastante difícil para la pequeña...

Sería como pedirle que mueva juegos con bump-mapping.

entonces viene a ser culpa del hardware, la psp no tiene recursos suficientes como para mover el antialising a la vez que el juego, es decir, está limitada en ese aspecto...

y ya puestos aprovecho, que es el bump-mapping? no lo había oido nunca

Bump-mapping se conoce como el efecto "relieve" de las texturas. Si no juegas a PC o a los últimos juegos de Xbox, seguramente nunca lo hayas visto, porque Ps2 no lo soporta, y en Gamecube son contados los juegos que lo utilizan.

Básicamente consiste en texturas que "reaccionan" ante la iluminación de la escena, adaptándose a los relieves de la misma.Así simula tener más rugosidad de la que realmente tiene.

Actualmente en PC se usa el normal-map, un derivado del bump map normal, y la nueva generación promete usar parallax-maps y relief-maps, para simular geometría en las propias texturas.

No complico más la cosa porque muchos se liarán con tantos tecnicismos, y además no es el foro adecuado ni viene a cuento el tema xd

En el google encontrarás mucha información.

No obstante:
http://members.shaw.ca/%20jimht03/normal.html

La segunda imagen es un bump-mapping normalito, de los primeros, y en la 3º y 1º imagen se utiliza normal-map, técnicas que no están al alcance de PSP ni de PS2.