Buenas, por si te sirve de algo yo tengo la ps3 configurada a 1080p y el dvd conectados por HDMI al modelo de Yamaha RX-V365 y de ahí a un plasma samsung Hdready y no he tenido ningún problema, el audio para ambos casos si que lo llevo por fibra óptica.
Es un poco extraño lo que te pasa y más cuando dices que a otras resoluciones funciona correctamente. Si tienes la posibilidad prueba con otro dispositivo (dvd, otra consola,etc..) que de la señal a 1080p a ver si te pasa lo mismo, por lo menos para aislar el problema en un equipo o la ps3 o el yamaha.
Un saludo, Carlos.