Pues yo sospecho que el problema puede estar en el nombre del archivo, como sabes el sistema de ficheros de la Xbox tiene limitaciones al respecto, no recuerdo la longitud máxima, renombralo y lo vuelves a grabar a ver si te deja.
Yo personalmente he reproducido pelis de más de 1 Gb sin problemas, pero usando la red, desde mi Pc, y no tengo la últimísima versión del XBMC, no creo que ese sea el problema, la verdad.
Saludos.