关于C语言中数据精度问题
- ~& @; G# w& W1 @, E, I& e0 E5 X. W" C在软件开发中我们经常遇到数据精度处理问题。
( H; F2 M5 Z& n0 j0 ? 先看如下代码* J$ Y+ Y* R1 I8 N7 f R' m
#include #include #include
% J# \6 J# ?3 z1 D: n int main ( void )6 ^. j5 _+ W+ u b! s+ J# A
{* M1 W: i% c. N% S w/ E* `
char *s="0.100001200";
0 l( @8 ^5 B* D& @0 Z fprintf ( stderr, "%f\n",atof(s));
t1 t8 x( x# U7 w2 u return 0;
- h* ~3 |+ l* D4 x# I% Y: ] }
! \2 i1 _7 Z9 ` 以上代码编译后执行，结果如下：
! v" K2 x! K8 x& l$ S5 |. b $ 0.100001) M8 ]- Z3 J |/ J" G
$: a. C; f& H% X) Z- ~6 V
问题出在哪里，是 atof 函数的问题？ 将 atof(s) 替换成 strtod(s,NULL) 后，结果依然如此。
2 l, ~8 W% u0 l, T: ~7 ~4 _0 ? 经过测试，发现并非是 atof 或 strtod 函数转换时精度丢失，而是 %f 的格式化输出符默认的输出为小数点后面 6 位的精度。2 E4 Z8 N) [1 T3 t
我们将上面的代码修改为：
% q0 I# L0 n# @3 d: G. S #include #include #include
! I9 {( p( S* Q4 | p* k int main ( void )
5 e8 n d6 n& L4 t4 R+ S2 m- J q {8 u. m" s: Z# X! n
char *s="0.100001200";& p' l6 R7 J6 T: t
fprintf ( stderr, "%18.10f\n",atof(s));" m( I7 y9 K# _ G* A# m
return 0;5 \- K7 Q' U. L7 j( v
}
( Q" F3 z2 @: H6 S3 K 编译后执行，结果如下: ?$ {. O' x: T u1 O& W9 b
$ 0.100001200
. l Z2 E: _& X) Z' o $ |
发表于 2012-7-31 21:48:08
