L’annulation catastrophique est une perte importante de précision qui survient lorsqu’on soustrait deux nombres flottants très proches : leurs chiffres significatifs communs s’annulent, tandis que les erreurs d’arrondi présentes dans les derniers chiffres deviennent prépondérantes.

Exemple : pour 
𝑥
x très petit, calculer directement

\[
1-\cos x
\]

est instable, car 
cos
⁡
𝑥
cosx est très proche de 
1
1. En double précision, avec 
𝑥
=
1
0
−
8
x=10
−8
, 
cos
⁡
𝑥
cosx peut être arrondi à 
1
1, donnant alors 
1
−
cos
⁡
𝑥
=
0
1−cosx=0, au lieu d’une valeur proche de 
5
×
1
0
−
17
5×10
−17
. La forme équivalente

\[
1-\cos x=2\sin^2\left(\frac{x}{2}\right)
\]

évite cette annulation et fournit un résultat plus précis.