No puedes ocultarlo. Es más, ningún equipo o consola de videojuegos lo hace tampoco. En el momento en el que el equipo en cuestión negocia con el servidor de la red (en tu caso el router) la conexión, tu IP se hace visible a todos los efectos. Lo cual por diseño es lógico y debe de ser así, pues estás en una red conectado con otros ordenadores.
Si te preocupan las posibles conexiones que puedas realizar o recibir, quizás deberías plantearte usar un firewall más potente y completo que no el de por defecto de Windows. Hay alternativas gratuitas y bastante potentes, como Zone Alarm Free Firewall o Comodo Firewall, que te permiten bloquear o permitir, a distintos niveles, las conexiones que recibe y realiza el equipo.