No seria mas facil aplicar logaritmos? Con la propiedad de los logaritmos puedes bajar la x del exponente sin ningun problema..
Creo que seria la forma idonea..
Edito:
lo he hecho del modo que lo hacias tu..
Creo que lo tienes mal desde el principio.
Tenemos
5^x + 7^y = 12
25^(x-1)+(1/49)^(x-1) = 2
Definimos
5^x = p
7^y = q
p+q=12, q=12-p
Para poner la otra ecuación en funcion de p hay que ajustar los productos, para que sea siendo la misma fraccion
5p/25 + 49p/(5*49) = 2
5p/25 + 49p/245 = 2
p=5, 5^x=5, x=1
q=12-p = 7
q= 7^y = 7, y=1