Al final lo he solucionado, o eso espero.
En el juego volvi a poner la configuracion por defecto y a partir de ahi ya me ha dejado poner la calidad que queria, he vuelto a cambiar a la resolucion 1600x900 para probar si volvia a pasar y efectivamente, ha vuelto a pasar, he vuelto a poner por defecto la configuracion y ya se ha solucionado.
Es una gtx 660m drivers actualizados. Por cierto, he notado que al modificar el poolsize me ha limitado los frames a 30fps, he probado con el fraps y antes bajaba de 30 a 20-25, ahora se mantiene ahi, eso si, la sensacion de bajones constantes es horrible, pero bueno, parece ser que hasta que no haya parches va a dar la sensacion de estar jugando a 30 fps inestables aunque estemos a 60 fps.