El reescalado es el reescalado, y es inevitable. Las zonas oscuras han sido de siempre el punto débil de DivX. En cualquier caso, asegúrate de que tienes el postprocesado al máximo en las opciones del códec. También puedes activar el "Film effect", que mete una especie de granulado en la imagen, pero puede ser peor el remedio que la enfermedad...
Respecto a la resolución, asegúrate de que tienes la última versión de los drivers de nVidia, que podrían solucionar tu problema.
Saludos