Supongo estás conectando en el puerto dvi de abajo, ya que el superior no te vale pq solo saca señal digital,
Si es así, ese error podría ser pq mandes una señal de hz superior a la que admite el monitor. En propiedades avanzadas de pantalla, propiedades del adaptador gráfico, pestaña monitor, ahí te deja cambiar la frecuencia de refresco..prueba a bajarla.