En virtualbox no usas tu gráfica real, trabajas con una gráfica ficticia con grandes carencias, cumple el viejo estándar vesa generico y con drivers propios maneja algo de aceleración básica.
Probablemente Libreelec no tiene los módulos para usar la gráfica ficticia de Virtualbox. Y en modo vesa generico no puede rular Kodi. (Necesitas un mínimo de soporte 3d, no se que OpenGL como mínimo)