Olá Marcos, seu código esta funcionando corretamente, segue abaixo algumas informações sobre o cálculo de tangente em computadores hardware x86_64 padrão.
O valor IEEE-754 mais próximo de Pi/2 é 1.5707963267948965579989817342720925807952880859375.
O cosseno disso, no hardware x86_64 padrão, é avaliado como 6.123233995736766 × 10 elevado a −17.
A recíproca disso é 1.633123935319537 × 10 elevado a 16.
O que temos aqui é que um valor (Pi/2) é aproximado pelo valor representável mais próximo. Então – dependendo da implementação – o cosseno dessa aproximação é calculado com a maior precisão possível [ou muito próximo da precisão possível, um erro relativo de 2 elevado a −50
seria próximo ao fim da tolerância], o que resulta em um valor aproximadamente da mesma magnitude (≈ 2 elevado a −52) e sinal oposto como a aproximação usada para Pi/2.