Creo que tienes una solucion mas sencilla, como comentas ... el imac y el router ya estan conectados por cable ethernet ... pues si como dices tienes un zyxel de telefonica solo tienes que habilitar la red inalambrica del router y conectar la ps3 via wifi, asi los 2 sistemas estarian conectados ya en la misma red.
Pero si lo que quieres es conectarlos por cable ... lo primero q debes saber es que no es lo mismo un cable de telefono que tiene 2 hilos (el cable con el que conectas el router a la roseta de la pared) y otro muy distinto es un cable ethernet o cable de red que como minimo lleva 4 hilos, digo como minimo porque normalmente llevan 6 u 8 hilos, ademas la clavija de los extremos tambien es distinta en un cable de telefono que en un cable ethernet, una es un RJ11 y la otra un RJ45.
Lo que quieres hacer con los cables y aparatos que tienes es imposible, primero por lo que ya he comentado y segundo que no puedes tener 2 aparatos un router y un modem sincronizando dentro de la misma linea telefonica. Lo unico que puedes hacer en tu caso particular es tirar o extender un cable de red ethernet desde el router hasta donde esta la ps3, los hay de muchas medidas y sino siempre puedes hacertelo tu mismo comprando el cable de red de los metros que necesites, un par de conectores RJ45 y una crimpadora. No se si me he explicado bien, pero lo he intentado, espero te sirva.