A ver, una pregunta. Si vuelves a poner el HDD de 40, sí que funciona, ¿correcto?. Entonces, si "sólo" es que no te reconoce el HDD de 500 gb, ni la PS3 ni el PC, igual tenga algún problema físico el mismo. ¿Está recién comprado?. Podrías cambiarlo por uno nuevo. Si no, se me ocurre que pruebes a tratar de conectarlo por todas la vías posibles a un ordenador hasta que puedas formatearlo (dentro de la CPU o por USB con caja externa). Me imagino que sabrás que en el PC "no lo vas a ver" a no ser que vayas a Administrar/Administración de discos. Ahí lo puedes ver y formatear. Una vez hecho, devuélvelo a la PS3 a ver si ya reconoce un HDD y te lo "autoformatea" para PS3. Por último, si quieres, podrías volver a intentar recuperar el backup de tu HDD original de 40gb.
A ver si hay suerte y si no lo cambias.
Un saludo!