Buenas,
No te recomiendo que instales una VPN en el VPS, a no ser que lo que quieras es navegar por la VPN, básicamente porque se va a comer un % muy alto de la CPU.
Si lo que tienes intención es de montar tu propio server Web o aplicaciones de cualquier otro tipo, utiliza SSH con auth key solamente, deshabilita el login y que conecte con keys publicas, y mete el puerto del SSH en un puerto desconocido, te será más fácil y encima no consumirá apenas recursos del sistema.
Al menos es mi recomendación, la VPN deja frito a un VPS en CPU.
Saludos.