Es que te estás equivocando.
Lo primero, tienes que saber que estás mezclando dos sistemas de medida de ángulos, los grados sexagesimales y los radianes.
Como bien dices, una circunferencia se divide en 360º, de manera que sus 4 cuadrantes son 0/360º, 90º, 180º y 270º, correspondiendo para cada cuadrante un seno de 0, 1, 0 y -1, respectivamente, y un coseno de 1, 0, -1 y 0, respectivamente.
Ahora bien, en sistema de radianes, la equivalencia a grados sexagesimales sería: para 0/360º -> 0*pi/2*pi, para 90º -> pi/2, para 180º -> pi, y para 270º, (3/2)*pi. De manera que la circunferencia completa no es pi radianes, como pones, sino dos pi radianes. pi radianes sería media circunferencia.
Si realizas la operación en la calculadora de coseno de pi, tienes que configurar la calculadora para operar en modo radianes, porque si no lo haces, ella realizará la operación en modo grados sexagesimales, de forma que coseno de "pi" sexagesimal equivale a coseno de 3,1416, esto es el coseno de un ángulo de 3,1416º, casi casi un ángulo de 0º, de ahí que se aproxime tanto el resultado a 1, y te dé 0,998.
Espero que te haya quedado claro, si tienes más dudas, pregunta.
Edito: Sobre saber el valor exacto de pi, es una utopía, ya que es un número irracional, infinitos decimales. Nunca lo sabremos. En japón tienen un ordenador que siempre está calculando el número pi, y ya pasó hace tiempo de los dos billones de decimales, y ahí sigue calculando.
