El programa, o al menos el que yo conozco es CRU = Custom resolution Utility.
Yo no te lo recomiendo porque vas a ganar entre poco y nada, y vas a tener al monitor trabajando por encima de lo recomendado.
Salvo paneles concretos que se conoce que suben, no merece la pena.
Sobre tu pregunta inicial:
A ver, lo optimo es un monitor 144hz (o mas si gustas) con gsync o compatible.
Tendrás altos hz y la sincronización con la gráfica, es la mejor configuración tanto para juegos casuales como competitivo.
Altos hz, bajo framerate gracias a los hz, y estabilidad y suavidad al estar sincronizados.
Para mi son 2 cosas imprescindibles la verdad.
Sobretodo los hz.
Si prescindes del gsync, tendrás altos hz si, pero "errores" gráficos: Cortes en pantalla (tearing) e inestabilidad (stuttering)
A ésto último no se le da mucha importancia, pero en mi opinión hay una gran diferencia de ver todo suave y cada frame cuando toca todos correlativos, que no cada uno variando, lo que visualmente se traduce como una imagen temblando todo el rato, es un temblor mínimo que no te das cuenta hasta que no pruebas el gsync o freesync de amd.
En tu caso... sí, los fps son independientes a los hz, puedes poner fps sin límite e irá a lo que pueda la gráfica, es decir, desactivar la sincronización vertical.
Ésto no es malo para la gráfica, está pensada para trabajar a tope, pero obviamente la temperatura te va subir con respecto a estar trabajando limitada.
Ganarías algo? Bueno... estarás viendo 60 frames igualmente porque es lo que tu pantalla puede mostrar, pero para competitivo te puede ir bien, porque el framerate se reduce (tiempo que pasa entre frame y frame), y el frame que estás viendo es mas reciente, me explico.
60 fps = 60 frames en 1 segundo, 60 frames en 1000 milisegundos
1000/60 = 16,6
Lo que da un promedio de 1 frame cada 16,6 ms.
O dicho de otra manera, el frame que estás viendo se procesó hace, hasta 16,6ms.
Si por ejemplo sin limitar te va a unos 120fps, pues ese tiempo se reduciría a la mitad, osea 8,3ms.
Y para que sirve esto?
Bueno, es uno de los tiempos que influye en el tiempo de reacción, es decir, desde que ves algo en la pantalla hasta que reaccionas a ella (moverte o disparar).
A eso le tienes que sumar el input lag del monitor (tiempo de procesado desde que recibe la señal hasta que la pinta en pantalla), tb la gráfica tiene un pequeño tiempo de procesado, así como la latencia del servidor del juego hasta tu pc.
Ya digo, solo para competitivo serio tendría algo de sentido, aunque lo suyo es cambiar el monitor, y que los hz sean mas altos si lo que quieres es jugar a altos fps.
Saludos