Intenta rular los drivers oficiales de AMD Radeon y usar la aceleracion de vídeo por gráfica. Mira reproductores de vídeo con soporte para "xvba" (probablemente XBMC lo soporte o haya versiones con soporte para ello, VLC supongo que tambien lo habrá)
Y quizá smplayer pueda con las siguientes modificaciones en las opciones (si el mplayer instalado en el sistema soporta la aceleracion de las radeon)
General -> Video -> Output Driver -> Custom -> "vaapi,xv," (con las comas como estan, es el orden, si el video no rula con el primer, salta a representación normal por XV y si tampoco al resto)
Advanced -> Options for Mplayer -> Options -> "-va vaapi".