Que yo sepa, no puedes hacer nada para que youtube no te recomprima los videos. Ellos utilizan su propio formato/bitrate (h264), y eso así para todo el mundo. Es un asco, pero es lo que hay. Tened en cuenta que Youtube funciona en una infinidad de aparatos, y tiene que funcionar bien en todos.
Lo unico que nos queda es esperar que empiecen a utilizar h265 o algun sucedaneo de este.