VLC usa sus propios filtros de decodificacion, asi que el problema o esta como te dicen en las configuraciones del controlador de video o en el reproductor mismo. El monitor no tiene nada que ver en cuanto a 'la aceleracion', el video se reproducira a la velocidad a la que fue creado [23.97fps o 24fps o 25fps o 29.97fps o 30fps].
Por cierto, MP4, MKV, AVI, FLV, etc, SON CONTENEDORES DE VIDEO.
MPEG-2, MPEG-4 [divx, svid, h264, h265], RV9 son ALGUNOS FORMATOS DE VIDEO. CONTENEDOR de video y FORMATO de video no son lo mismo aunque esten relacionados.
Prueba con el reproduxctor MPC-HC o con PotPlayer, ambos de los mejorcitos reproductores de video, usan sus propios filtros de decodificacion o bien, pueden usar los filtros de decodificacion instalados en windows.
https://mpc-hc.orghttps://potplayer.daum.netSI quieres tener una reproduccion mas suave de los videos [y es donde si te afectaria que el monitor sea de 60Hz|100Hz|144Hz] puedes emplear algunos de estos tres programas:
hilo_dmitrirender-reproduccion-de-video-con-mas-suavidad_2027594.