Re: 精度は?。



[ このメッセージへの返事 ] [ 返事を書く ] [ home.html ]



投稿者: 蜂蜜檸檬 @ h089.p072.iij4u.or.jp on 98/1/17 00:43:19

In Reply to: Re: 精度は?。

posted by Hara @ nocs6.noc.titech.ac.jp on 98/1/16 15:28:58


> これは確か32bitの単精度浮動小数点の演算だったと思います。
> ただ、32bitと64bitでどれほど精度が変わるのかはよく分かりません。

雲泥の差です。比較になりません。
尤も低解像度ならこの程度で十分なのかも。