El antialiasing es (en mi opinion) lo que mas quita rendimiento,despues estan los sombreados,oclusion ambiental,postprocesado,etc.
Para guiarte un poquito lo que debes de hacer para empezar es poner la resolucion del juego a la maxima que admita tu monitor:
1920 X 1080 (1080p)
1600 X 900
1366 X 768
1280 X 720
Obviamente, a mas alto mas le cuesta a la GPU pero severa mucho mejor (mayor nitidez),si tu monitor admite 1080p no lo dudes.
Bien, una vez hecho esto activamos un contador de FPS (RadeonPro,Steam ya incluye el suyo,etc).Ahora vamos con las opciones graficas (aqui ya depende del juego y tu GPU),para empezar ponlo todo en
alto (no tienes una GPU para poner los graficos en Ultra).Ejemplo :
Texturas = Alto
Oclusion ambiental = Activado o alto
Antialiasing = Alto
Filtros = 16x
Sombras = Alto
Postprocesado = Activado o alto.
etc.
Si de este modo obtienes FPS bajos prueba a bajar un poco el antialiasing (medio - bajo) o desactivar postprocesado,si aun asi te funciona mal prueba a bajar Oclusion Ambiental y luego las sombras (medio-bajo).Con esto seguro que aumentaras esos FPS
Otra cosa que añadir,hay juegos que pueden tener Stuttering (fps a trompicones,bajones repentinos,etc),si tienes este problema se puede solucionar activando Vsync (Sincronizacion vertical) o triple buffering,aun asi hay juegos que estan mal optimizados,no te comas la cabeza, hay que esperar a un parche (si no tienes actualizado el juego ya estas tardando).
Espero que este tocho te sirva de algo compañero,no olvides visitar los hilos oficiales de los juegos para ver que tal estan optimizados,parches,bugs,etc.La experiencia del usuario es la que mas ayuda
Un saludico.