
[ このメッセージへの返事 ]
[ 返事を書く ]
[ home.html ]

投稿者:
蜂蜜檸檬 @ h089.p072.iij4u.or.jp on 98/1/17 00:43:19
In Reply to: Re: 精度は?。
posted by Hara @ nocs6.noc.titech.ac.jp on 98/1/16 15:28:58
> これは確か32bitの単精度浮動小数点の演算だったと思います。
> ただ、32bitと64bitでどれほど精度が変わるのかはよく分かりません。
雲泥の差です。比較になりません。
尤も低解像度ならこの程度で十分なのかも。

|