El prxtool NO se instala, es una aplicacion de comandos.
Si lo que quieres es ver el codigo en ensamblador del prx pon esta secuencia:
prxtool -w "nombre del prx a ver el codigo con extension" > "nombre del archivo a crear con la informacion"
por ejemplo:
prxtool -w syscon.prx > syscon.txt
El problema es que si usas la version de windows no podras analizar los prx que sean de los firmwares 3.50 >, ya que se les cambio la estructura, si quieres analizar esos deberas bajarte la version de linux del prxtool que si los reconoce.
Otra cosa es que una vez que lo tengas en codigo ensamblador entiendas lo que hace, para eso debes saber ingenieria inversa mips y mucho tiempo.