Intenta con OBS Studio que es para temas de juegos. Puedes grabar tanto la pantalla/ventana del juego como el escritorio, y según que juegos puede venir mejor uno u otro.
Como es tanto para capturar como temas de streaming tendrás que ajustartelo un poco al uso que le quieras dar.