El plugin deberias instalarlo en la subcarpeta Plugins de PHotoshop.
De todas formas te recomiendo que te hagas con el programa Fast_xbx2dds2img , que es un convertidor entre archivos xbx, dds y varios tipos de archivos de imagen (jpg,bmp,etc.)
Lo mejor es pasar los xbx a jpg/bmp/png directamente, editarlos en photoshop y luego convertirlos a dds o xbx...
saludos