加入收藏 | 设为首页 | 会员中心 | 我要投稿 辽源站长网 (https://www.0437zz.com/)- 云专线、云连接、智能数据、边缘计算、数据安全!
当前位置: 首页 > 站长百科 > 正文

Oracle SQL舍入不当行为

发布时间:2021-01-21 06:30:21 所属栏目:站长百科 来源:网络整理
导读:我遇到了使用Oracle SQL进行binary_double舍入的奇怪行为. binary_double值应该根据 documentation舍入一半,但是在使用以下查询进行测试时,似乎存在一些不一致.下面的所有查询应分别给出相同的最后一位数,即0.x00008和0.x00006(舍入为6位)或0.x0008和0.x0006

>在线十进制到IEEE 754双转换器:0.0000065和0.0000075
> http://en.wikipedia.org/wiki/Floating_point#Internal_representation

(编辑:辽源站长网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

推荐文章
    热点阅读