Open broadcast captura video desde juegos o cualquier software, y al igual que el handbrake, Open broadcast usa un encoder h264 para la codificacion de video.
Segun apreciacion, o estas mal configurando el encoder handbrake o tu disco duro esta muy defragmentado. No recuerdo bien si handbrake usa el encoder x264, pero te recomioendo uses otro software que si lo use, ya que x264 es el encoder mas rapido y de mejor calidad que hay [comparado tanto con encoders gratuitos o comerciales]. Por ejemplo, MediaCoder, meGUI. Codifica a audio AAC a 128Kbps o a 160Kbps, con una calculadora de bitrate calcula el bitrate de video que requieres para tener el peso de archivo que quieres, el resultado de la calculadora lo pones en las opciones de Bitrate del encoder h264, aparte.
Este es el software calculator bitrate que uso [captura propia].
En el encoder h264 configuras la opcion de PRESET en FAST o en MEDIUM, estos presets controlan la serie de algoritmos y filtros que se aplicaran durante la compresion, FAST y MEDIUM utilizan varios de los filtros de mejora visual que no requieren uan alta tasa de procesamiento, con lo que la codificacion se hara mas fluida. Por el contrario, si usas el PRESET SLOW o SLOWER estas usando mas filtros y estos a su vez usan algoritmos de analisis mas complejos que requieren mucho mayotr poder de procesamiento haciendo que la codificacion sea muy lenta.
Ademas en las opciones de PERFIL@LEVEL dejas en AUTOMATICO ambas, para que el encoder eliga la que mejor se ajusta al tipo de video y a la codificacion que se esta realizando.
Esta captura que hice la tome de MediaCoder, pero cualquier software de codificacion h264 tendra estas opciones. Pestaña VIDEO para configurar el formato de video y el bitrate, pestaña x264 para configurar las condiciones que usara en encoder x264 en la codificacion del video. [Captura propia]
.