Postgresql float8类型精度丢失问题

embedded/2024/11/13 9:26:36/

问题描述

最近遇到了一个bug。用的是pg数据库。表里有一个index_value字段,表示指标的数值,是float8类型。表里存的是-0.11105,但是查出来变成了-0.111049999999。而且这个是不稳定的,有时候查出来又是-0.11105。

排查的过程中,我先在数据库里执行sql,查出来是正常的-0.11105。
但是在业务代码中,用mybatis查出来就有问题了(mybatis查出来封装的对象用的是BigDecimal类型)。

解决办法

将float8改成numeric类型。需要存精度比较高的字段时,用NUMERIC/DECIMAL。


http://www.ppmy.cn/embedded/11421.html

相关文章

Centos7.9下 systemd方式服务延迟启动的实现技巧(且适用于docker-pxc集群开机自启)

目标,让开机后 docker.service延迟启动 一.定义延迟启动脚本 #!/bin/bashsed -i s/safe_to_bootstrap: 0/safe_to_bootstrap: 9/g /var/lib/docker/volumes/d-compose_v301/_data/grastate.datsleep 10 # 等待10秒后启动Docker服务 systemctl start docker.service…

ROS学习笔记(13)坐标变换(TF和TF2)

0.前提 我翻了一下我以前的教程发现我居然没有讲过TF坐标转换,那现在补上。在机器人学中坐标转换是一个极为重要的概念、内容,在大量的科技公司招聘机器人岗位的人才时掌握机器人运动学正解和逆解等都是加分项。机器人在实际应用当中会涉及到大量的位置…

React-RTK

​🌈个人主页:前端青山 🔥系列专栏:React篇 🔖人终将被年少不可得之物困其一生 依旧青山,本期给大家带来React篇专栏内容:React-RTK 目录 1、介绍 2、安装 3、编写RTK使用示例 4、官方提供项目包示例 创建 Redux …

AlgorithmDay20

day20 [!NOTE] return用作:return递归的上一层,而不一定一定是最后结果。 654.最大二叉树 又是构造二叉树,昨天大家刚刚做完 中序后序确定二叉树,今天做这个 应该会容易一些, 先看视频,好好体会一下 为什么…

Swift中与WebView的交互

在Swift中,可以使用WKWebView来实现与WebView的交互。WKWebView是iOS 8及以后版本中新增的Web视图控件,它提供了一种现代化的方式来加载和显示Web内容,并且支持与JavaScript的交互。 以下是一些常见的与WebView的交互方式: 1.加…

React 19 带来了 JSX 运行时的重要更新

在 React 的发展历程中,JSX 运行时一直扮演着重要的角色。在以前的的版本,JSX 运行时会克隆传入的 props 对象,这背后有着两大原因。 历史原因 React 保留了一些特殊的 prop 名称,如 key 和在 React 19 之前的 ref。这些 prop 并…

ROM修改进阶教程------安卓7_____安卓13去除签名验证操作步骤解析

同类博文: 安卓玩机搞机技巧综合资源-----修改rom 制作rom 解包rom的一些问题解析【二十一】_qcn改区域锁-CSDN博客 安卓系列机型rom修改。如果你删减了系统相关的app。那么严重会导致开机系统卡米 定屏等问题。这类一般都是系统签名验证导致的。而破解签名验证一般都是修改…

FPGA在汽车领域的应用简谈

随着科技的不断进步,汽车行业也在不断演变,而FPGA(可编程逻辑门阵列)的引入给汽车领域带来了革命性的变化。FPGA作为一种灵活且高性能的“处理器”,已经在汽车行业找到了广泛的应用 目前随着新能源汽车的发展&#xff…