Qu'en est-il de la précision ?

Le manuel de KCalc
Précédent | Chapitre 8. Questions et réponses | Suivant

# 8.4. Qu'en est-il de la précision ?

Le facteur principal déterminant la précision de KCalc est le support par libc et libmath du type de données C 'long double'. Si ce type est disponible, KCalc le détectera au moment de la compilation et l'utilisera comme type fondamental pour représenter des nombres. Allez dans le dialogue 'à propos' de KCalc pour savoir quel est le type de données de base de votre exemplaire de KCalc.

A moins d'avoir une librairie libc et une librairie libmath de qualité exceptionnellement haute, vous serez capable d'observer quelques résultats "intéressants" en essayant d'effectuer des calculs comme : 123.22 - 123.21; 2.01 - 2; 123.88 - 123.87 et ainsi de suite. Si toutefois vous pensez que c'est mauvais je vous invite à effectuer le même calcul sur la calculatrice de poche de Windows.

Ajustez la précision sur le dialogue de configuration de KCalc de manière à ce que les calculs ci-dessus s'effectuent correctement. Je recommende une précision de 14 si le type de base pour votre exemplaire de KCalc est 'long double', sinon 8 ou 10.

Note : Une plus grande précision ne mène pas forcément à de meilleurs résultats. Jouez avec la précision et vous verrez ce que je veux dire.

Précédent | Sommaire | Suivant
Comment puis-je obtenir deux chiffres fixes après la virgule ? | Niveau supérieur | Copyright