El tema del antialiasing va mas o menos así
FXAA = Suavizado de bordes post-procesado, lo que quiere decir que toma un frame ya procesado y difumina los bordes de una forma rápida. No tiene mucho impacto en el rendimiento, pero es poco preciso y tiende a emborronar las texturas.
SMAA = Similar al FXAA pero da mejores resultados, no difumina las texturas y tiene un mayor impacto en el rendimiento (no mucho más que el FXAA).
TXAA = Solución de Nvidia. Combina los datos de varios frames para contrarrestar cosas como los jaggies que parpadean cuando se mueve la cámara. Tiene bastante impacto en el rendimiento y a veces provoca efectos como el "ghosting".
SSAA/Downsampling = Renderizar el juego a una resolución muy alta y escalarlo a una resolución menor. Teóricamente es una de las mejores técnicas y se puede usar con cualquier juego, pero también es la más exigente.
MSAA = Básicamente es supersampling para los bordes de los polígonos. Da muy buenos resultados pero da muchos problemas en los motores modernos porque es difícil de implementar con deferred rendering.
En consola lo que más se utiliza es FXAA por su escaso impacto en el rendimiento y el algún caso MSAA si se tiene algo de margen.