Puede que necesites subir muy ligeramente el voltaje de la ram. Mira que voltaje usan, y subele 0.02~0.04v a ver. No subas sin ton ni son a ver si por ir de loco las quemas, quizá pueda parecer poco pero creo que es RAM que funciona a 1.2v o así. Lo ideal es que las tengas a lo mínimo en que funcionen estables. También puede que simplemente no haya manera, hay memorias y placas que simplemente no ponen de su parte y no hay nada que hacer.
Aunque me despista el tema de que la publicitan como que tiene "Overclock automático" esas memorias.
Por otra parte, ¿configuras manualmente? O usas el perfil XMP de la ram?