Personalmente si de verdad estás en una situación apretada y el pc no es un tema acuciante para ti (a no ser que lo uses para trabajo aparte de ocio), no te recomendaría uno nuevo si de verdad supone un esfuerzo económico ahora mismo.
Los cambios que necesitas no son para nada "caros" si buscas bien, las pilas de la placa como comentan es un gasto menor, no superando los 2~3€ aproximadamente. La placa con algo de suerte podrás encontrar alguna con la que poder reutilizar tu actual procesador, y teniendo en cuenta la antigüedad, no creo que sea un gasto mayor de 20~40€.
Sobre la gráfica, si realmente la quieres actualizar, mira alguna de segunda mano y, aunque algo arriesgado sin saber la tralla que le hayan dado, puedes encontrar hasta gtx 660 por 50~70€ o alguna 560 por algo menos.