Si tienes 5 = a*(x+2) + b*(x+1)
luego 5= (a+b)x + (2a+b)
ahora es cuando se aplica que dos polinomios son iguales si tienen los mismos coeficientes
polinomio [5] = polinomio [(a+b)x + (2a+b)] se cumple sí y sólo sí:
0=(a+b)
5=2a+b
por tanto, (supongo que sabes resolver las dos últimas ecuaciones) a = 5; b = -5