... perdona, no te entendí bien
Yo cuando edito ese archivo, lo que hago es lo siguiente:
Con el ASF Explorer extraigo el archivo flag xxx.flg, es uno de esos, ¿no?
Bien, pues extraigo el bmp correspondiente y de este recorto con el mismísimo paint

la bandera que quiero sustituir y la pego en otro bmp nuevo, allí edito la bandera que quiera y luego la pego, tal cual, en el bmp de las banderas.
Suerte, yo lo he hecho así siempre y genial, ningún problema.
P.D: Lo del Photoshop puede ser por el modo de paleta que utilizas, prueba en imagen\modo\color indexado... ya sabes, como en las camisetas...
Saludos y espero ayudarte