FXAA+MSAA... ¿¡De que estas hablando!?
Usar dos filtrados por post-procesamiento a la vez solo afectara el rendimiento y no mejorara el antialiasing, sino todo lo contrario. FXAA y SMAA no son tan detallados en el analisis ya que su fin es ser rapidos a la vez de lo mas efectivos posible, y SMAA es el que mejor relacion tiempo/precision/resultado de ambos.
SSAA es un antialiasing in situ, o lo que es lo mismo, se realiza en el mismo proceso de render de la imagen, obliga a crear la imagen a una resolucion mayor para luego reducirla y enviarla al monitor como imagen de video, mientras MSAA se realiza sobre el video final del render; de hecho, los filtros de post-procesamiento los realiza la circuiteria dedicada a la reproduccion de video y mejora visual. Siempre sera mejor un filtro antialiasing que trabaja durante el render [durante la generacion de la imagen por el motor grafico del juego], pero le lleva mas tiempo y afecta mas al rendimiento del GPU.
Lo que puedes hacer es combinar filtros antialiasing donde uno trabaje durante la generacion de la imagen, como SSAA, con solo un filtro post-procesamiento como MSAA [el mejor] o FXAA.
Y ahora que recuerdo, ya los ultimos controladores de nvidia geforce y amd radeon incorporan el SSAA [bajo algun otro nombre], asi que seria solo activarlo desde el panel de control de la tarjeta de video si es que el juego no posee esa opcion, y en radeonPRO activar o SMAA o FXAA pero no ambos.