Ese CPU i5 650 es dualcore (no quadcore), ese es el primer problema.
Te falta CPU (algún i7 de primera generación de segunda mano que sepas soporte tu placa base, ya sería un 4cores) y más RAM (8gb de RAM es lo recomendable) para irte a una 1050ti y jugar bien. (Calidades medias/medias altas)
De la gtx 1060 yo no lo veo, la placa siendo una genérica regulera de PC premontado no te permitira hacer Overclock alguno o una miseria, y dudo que un i7 primera generación a velocidad de fábrica le saque jugo a una gtx1060, se quedaría corto, con el i5 650 es que sería totalmente desaprovechada, te gastarías un dineral en gráfica y no le verías color a la inversión.
Por otra parte gtx1050ti hay algún modelo "sin conector" de alimentación extra, que si lo encuentras (tendrás que asegurarte bien) te irá en cualquier fuente, las GTX1060 todas requieren conector y podrías necesitar (casi seguro siendo un premontado de marca) cambiar de fuente de alimentación. Porque si tiene la gráfica conector de alimentación estás obligado a ponerlo o no funciona (y si la fuente es mala y/o poco potente no tendrá ese conector para gráfica). Tu gtx750 es prácticamente seguro sin conector.
Si no ya hablaríamos de cambiar el PC entero...
Vas a tener que pensar bien el tema. Meterle dinero a ese equipo para subirlo a algo decente pero seguirá siendo viejo o liarte la manta a la cabeza y pensar en algo moderno, también dependerá del coste de cada cosa, vamos que fácil no es.