Si el Ray Tracing te da un poco igual, otra opción más económica y más que suficiente para 1080 es una GTX 1660/Super/Ti.
Sobre ampliar la RAM a 16GB como te han comentado, es muy recomendable también, en muchos juegos no te hará falta, pero cada vez hay más y más juegos que piden más de 8GB de RAM.
Saludos.