Vita soporta tanto WEP como WPA/WPA2.
Si usas WPA tu contraseña será de entre 8 a 63 caracteres.
Si tu router usa WEP la contraseña será de 5 o de 13 caracteres (no entre 5 y 13).
No puedes tener una contraseña de 6 caracteres.
Por el mensaje que dices que te da te estás conectando a una red WEP, he hecho una prueba y sale lo de "de 10 a 26 caracteres hexadecimales o de 5 o 13 ASCII".
Entiendo que tienes que tener mal la clave, igual estás probando con la contraseña para logarte en la administración del router y no con la de la red WiFi.
Cómo consejo, aparte de esto, si puedes actualizar la configuración de seguridad del router y pasar de WEP a WPA2 deberías hacerlo, el sistema de cifrado WEP hace años que está quebrado.