網站首頁 編程語言 正文
decimal模塊主要的作用是精確小數,因為float是不精確的,只是無限接近,對于一些需要精確小數點后位數的就需要用decimal。
Decimal類型的優點
Decimal類型是在浮點類型的基礎上設計的,但是它在幾個地方上要優于floating point:
- Decimal類型可以非常精確地在計算機中存儲,浮點型在計算機中是無法精確存儲的,后面的小數會不精確,Decimal類型則不會出現這種情況。同樣,由于無法精確存儲,浮點型也就無法精確計算。
- Decimal類型會自動保留小數點后面不需要的0,以與輸入的精度相匹配,比如:浮點型的1.20+1.30結果是2.5;而Decimal類型結果是2.50。
- Decimal類型可以根據需要自己設置小數點后精度。通過getcontext().prec = x (x為你想要的精度來設置)。
- Decimal類型有很強的管理功能,它能夠根據需要設置,來控制輸出的格式,得到或者忽略某類錯誤(如除0,可以設置忽略它,而得到一個Infinity的Decimal值)
示例1:
from decimal import Decimal
result=Decimal("3.01")+Decimal("3.02") #Decimal()的參數必須是字符串型
print(result)
運行結果:
6.03
示例2:
from decimal import Decimal,getcontext
getcontext().prec=5 #利用getcontext().prec設定有效數字
result=Decimal("10")/Decimal("3")
print(result)
運行結果:
3.3333
示例3:
from decimal import Decimal
result=Decimal(0.123456789).quantize(Decimal("0.0000")) #quantize:設置小數位數
print(result)
運行結果:
0.1235
參考鏈接:
1.python中的decimal模塊
原文鏈接:https://blog.csdn.net/weixin_57038791/article/details/127947748
相關推薦
- 2022-08-03 python自動化測試用例全對偶組合與全覆蓋組合比較_python
- 2022-04-18 python用plotly實現繪制局部放大圖_python
- 2023-10-11 hutool工具類 | huTool的基本使用
- 2022-09-24 Pytorch實現邏輯回歸分類_python
- 2022-04-23 論C++的lambda是函數還是對象_C 語言
- 2022-03-19 C語言數據結構之隊列算法詳解_C 語言
- 2022-11-05 在jupyter?notebook中使用pytorch的方法_python
- 2022-08-17 C語言進階練習二叉樹的遞歸遍歷_C 語言
- 最近更新
-
- window11 系統安裝 yarn
- 超詳細win安裝深度學習環境2025年最新版(
- Linux 中運行的top命令 怎么退出?
- MySQL 中decimal 的用法? 存儲小
- get 、set 、toString 方法的使
- @Resource和 @Autowired注解
- Java基礎操作-- 運算符,流程控制 Flo
- 1. Int 和Integer 的區別,Jav
- spring @retryable不生效的一種
- Spring Security之認證信息的處理
- Spring Security之認證過濾器
- Spring Security概述快速入門
- Spring Security之配置體系
- 【SpringBoot】SpringCache
- Spring Security之基于方法配置權
- redisson分布式鎖中waittime的設
- maven:解決release錯誤:Artif
- restTemplate使用總結
- Spring Security之安全異常處理
- MybatisPlus優雅實現加密?
- Spring ioc容器與Bean的生命周期。
- 【探索SpringCloud】服務發現-Nac
- Spring Security之基于HttpR
- Redis 底層數據結構-簡單動態字符串(SD
- arthas操作spring被代理目標對象命令
- Spring中的單例模式應用詳解
- 聊聊消息隊列,發送消息的4種方式
- bootspring第三方資源配置管理
- GIT同步修改后的遠程分支