網站首頁 編程語言 正文
decimal模塊主要的作用是精確小數,因為float是不精確的,只是無限接近,對于一些需要精確小數點后位數的就需要用decimal。
Decimal類型的優點
Decimal類型是在浮點類型的基礎上設計的,但是它在幾個地方上要優于floating point:
- Decimal類型可以非常精確地在計算機中存儲,浮點型在計算機中是無法精確存儲的,后面的小數會不精確,Decimal類型則不會出現這種情況。同樣,由于無法精確存儲,浮點型也就無法精確計算。
- Decimal類型會自動保留小數點后面不需要的0,以與輸入的精度相匹配,比如:浮點型的1.20+1.30結果是2.5;而Decimal類型結果是2.50。
- Decimal類型可以根據需要自己設置小數點后精度。通過getcontext().prec = x (x為你想要的精度來設置)。
- Decimal類型有很強的管理功能,它能夠根據需要設置,來控制輸出的格式,得到或者忽略某類錯誤(如除0,可以設置忽略它,而得到一個Infinity的Decimal值)
示例1:
from decimal import Decimal
result=Decimal("3.01")+Decimal("3.02") #Decimal()的參數必須是字符串型
print(result)
運行結果:
6.03
示例2:
from decimal import Decimal,getcontext
getcontext().prec=5 #利用getcontext().prec設定有效數字
result=Decimal("10")/Decimal("3")
print(result)
運行結果:
3.3333
示例3:
from decimal import Decimal
result=Decimal(0.123456789).quantize(Decimal("0.0000")) #quantize:設置小數位數
print(result)
運行結果:
0.1235
參考鏈接:
1.python中的decimal模塊
原文鏈接:https://blog.csdn.net/weixin_57038791/article/details/127947748
相關推薦
- 2022-04-11 【Android】覺得不好看?自定義CheckBox樣式
- 2022-05-06 linux/mac上如何查看公網ip
- 2022-05-25 kubectl操作命令及使用說明總結_云和虛擬化
- 2023-07-08 如何讓element-ui的el-row內容居中(水平垂直)
- 2022-04-27 Oracle?觸發器trigger使用案例_oracle
- 2022-08-14 Gradle?Build?Cache引發的Task緩存編譯問題_Android
- 2022-07-17 C#實現子類與父類的相互轉換_C#教程
- 2022-12-27 python的ImageTk.PhotoImage大坑及解決_python
- 最近更新
-
- window11 系統安裝 yarn
- 超詳細win安裝深度學習環境2025年最新版(
- Linux 中運行的top命令 怎么退出?
- MySQL 中decimal 的用法? 存儲小
- get 、set 、toString 方法的使
- @Resource和 @Autowired注解
- Java基礎操作-- 運算符,流程控制 Flo
- 1. Int 和Integer 的區別,Jav
- spring @retryable不生效的一種
- Spring Security之認證信息的處理
- Spring Security之認證過濾器
- Spring Security概述快速入門
- Spring Security之配置體系
- 【SpringBoot】SpringCache
- Spring Security之基于方法配置權
- redisson分布式鎖中waittime的設
- maven:解決release錯誤:Artif
- restTemplate使用總結
- Spring Security之安全異常處理
- MybatisPlus優雅實現加密?
- Spring ioc容器與Bean的生命周期。
- 【探索SpringCloud】服務發現-Nac
- Spring Security之基于HttpR
- Redis 底層數據結構-簡單動態字符串(SD
- arthas操作spring被代理目標對象命令
- Spring中的單例模式應用詳解
- 聊聊消息隊列,發送消息的4種方式
- bootspring第三方資源配置管理
- GIT同步修改后的遠程分支