No se puede. La X360 sólo admite el formato wmv (incluido el wmv-hd) y ya está.
Hay un programa que convierte al vuelo pero sólo vale para divx o xvid, creo.
PD: por cierto, hay que diferenciar lo que es un codec (wmvhd, h.264, xvid, divx, ...) y lo que es un contenedor (mkv, wmv, avi, mov, ...).