Sé que la respuesta llega tarde, pero quizá aún pueda servirle de ayuda a alguien que tenga la misma duda.
Yo tengo un mac, pero estoy seguro de que desde windows también debe ser posible. En casa de mis padres tienen conectado el ordenador a internet vía cable ethernet. Cuando estoy allí lo que hago es conectar el macbook con dicho cable, y dentro de las preferencias de sistema, hay una carpeta denominada Compartir, con la que, entre otras cosas, puedo compartir dicha conexión a internet vía el wifi de mi ordenador.
Con lo cual, aunque tu router no tenga wifi, si tu ordenador sí lo tiene, bastará con que estés conectado a un cable de red para poder usar tu dispositivo como punto de acceso. No te puedo verificar cómo realizarlo en Windows, pero estoy convencido de que no será necesario googlear mucho para encontrarlo.
Un saludo.