Hhhmm, si es un poco dudoso, ya que la grabacion por hardware de video requiere tomar datos de la VRAM que se envian a la salida de video del GPU, al ser GPUs separados no se si el iGP VEGA RADEON pueda tomar los datos de la salida del GPU de nvidia directamente, o lo haga a traves del bus PCIE, con lo que tendrias un posible pequeño retardo entre lo que ves en pantalla y lo que se esta capturando.
Como sea, en el software de grabacion pues eliges la iGP VEGA Radeon del APU, en el panel de control de nvidia eliges los juegos o software al que se le dara prioridad al GPU de nvidia. Ahora bien, la idea es que uses un software de grabacion/captura independiente al software incluido en el controlador de amd, y en su lugar software de terceros comop OBS Studio o similares.
.