Puede deberse a que hay algún programa o servicio activado que ''necesita'' del office, por ejemplo esos servicios que activa al iniciar el sistema para que cargue mas rápido la suite.
Por si acaso descargaría el Ccleaner, haría una limpieza del registro desde ahí (no lleva ni 2 minutos) y desde su gestor de desinstalación quitaría el office.
Todo ello desde el modo a prueba de errores (el cual se accede presionando la tecla ''F8'' antes de que aparezca el logotipo de windows) para evitar conflictos con aplicaciones o servicios abiertos.
En el peor de los casos, ccleaner te deja borrar la entrada de office del registro, con lo cual ya ''no estaría instalado'' y sería cuestión de borrar los archivos a mano.