Ten en cuenta por otro lado que si vas a reproducir el video en TVs o dispositivos multimedia puede que no soporten ciertos codecs o perfiles de mayor calidad.
Sobre el tema de 10bits, puede que aún no se haya implementado por hardware la codificación, a mí en Linux no me sale en Handbrake que tenga NVENC H265 10bit y mi gráfica es una Nvidia RTX 30xx. Y comprimir en H265/HEVC por CPU es una labor muy sufrida.