Aunque es para uso en plan Youtuber puedes usar OBS Studio. Es gratuito y graba de donde le digas, solo que aparte pues tiene para poner webcam, rotulitos, cambios de escena, ya sabes, lo que estarás harto de ver por Youtube ya que normalmente o usan Xsplit que es de pago o OBS Studio que es gratuito. La ventaja de estos es que capturan en H264 ya sea a golpe de CPU o puede que por gráfica si tienes una soportada. (por gráfica da menos calidad, pero libera CPU)
Hay otros programas que son expresamente para capturar como el Fraps pero los vídeos ocupan una exageración, comprime poco o casi nada. Antes que no había tantos programas comprendo que fuese muy usado pero hoy día está cada vez mas en desuso aunque tenga su gente.