網站首頁 編程語言 正文
一、要求較小的精度
將精度高的浮點數轉換成精度低的浮點數。
1.round()內置方法
round()不是簡單的四舍五入的處理方式。
>>> round(2.5)
2
>>> round(1.5)
2
>>> round(2.675)
3
>>> round(2.675, 2)
2.67
round()如果只有一個數作為參數,不指定位數的時候,返回的是一個整數,而且是最靠近的整數(這點上類似四舍五入)。但是當出現.5的時候,兩邊的距離都一樣,round()取靠近的偶數2。
當指定取舍的小數點位數的時候,一般情況也是使用四舍五入的規則,但是碰到.5的這樣情況,如果要取舍的位數前的小樹是奇數,則直接舍棄,如果偶數這向上取舍。
看下面的示例:
>>> round(2.635, 2)
2.63
>>> round(2.645, 2)
2.65
>>> round(2.655, 2)
2.65
>>> round(2.665, 2)
2.67
>>> round(2.675, 2)
2.67
2. 使用格式化
效果和round()是一樣的。
>>> a = ("%.2f" % 2.635)
>>> a
'2.63'
>>> a = ("%.2f" % 2.645)
>>> a
'2.65'
>>> a = int(2.5)
>>> a
2
二、要求超過17位的精度分析
python默認的是17位小數的精度,但是這里有一個問題,就是當我們的計算需要使用更高的精度(超過17位小數)的時候該怎么做呢?
1. 使用格式化(不推薦)
>>> a = "%.30f" % (1/3)
>>> a
'0.333333333333333314829616256247'
可以顯示,但是不準確,后面的數字往往沒有意義。
2. 高精度使用decimal模塊,配合getcontext
>>> from decimal import *
>>> print(getcontext())
Context(prec=28, rounding=ROUND_HALF_EVEN, Emin=-999999, Emax=999999,
capitals=1, clamp=0, flags=[], traps=[InvalidOperation, DivisionByZero,
Overflow])
>>> getcontext().prec = 50
>>> b = Decimal(1)/Decimal(3)
>>> b
Decimal('0.33333333333333333333333333333333333333333333333333')
>>> c = Decimal(1)/Decimal(17)
>>> c
Decimal('0.058823529411764705882352941176470588235294117647059')
>>> float(c)
0.058823529411764705
默認的context的精度是28位,可以設置為50位甚至更高,都可以。這樣在分析復雜的浮點數的時候,可以有更高的自己可以控制的精度。
其實可以留意下context里面的這rounding=ROUND_HALF_EVEN參數ROUND_HALF_EVEN, 當half的時候,靠近even.
三、關于小數和取整
既然說到小數,就必然要說到整數。一般取整會用到這些函數:
1. round()
這個不說了,前面已經講過了。一定要注意它不是簡單的四舍五入,而是ROUND_HALF_EVEN的策略。
2. math模塊的ceil(x)
取大于或者等于x的最小整數。
3. math模塊的floor(x)
去小于或者等于x的最大整數。
>>> from math import ceil, floor
>>> round(2.5)
2
>>> ceil(2.5)
3
>>> floor(2.5)
2
>>> round(2.3)
2
>>> ceil(2.3)
3
>>> floor(2.3)
2
>>>
原文鏈接:https://blog.csdn.net/sinat_38682860/article/details/118700847
相關推薦
- 2022-07-17 C++深入講解引用的特點及與指針的區別_C 語言
- 2022-01-04 圖片網絡地址轉base64和文件
- 2022-11-07 python單元測試框架unittest基本用法案例_python
- 2022-08-20 Pygame?精準檢測圖像碰撞的問題_python
- 2022-05-29 .NET?Core通過dotnet?publish命令發布應用_實用技巧
- 2022-06-08 問題記錄:HttpServletRequestWrapper導致跨域失敗的問題
- 2022-05-04 Spring.Net框架簡介_實用技巧
- 2022-05-01 Python數據類型轉換匯總_python
- 最近更新
-
- window11 系統安裝 yarn
- 超詳細win安裝深度學習環境2025年最新版(
- Linux 中運行的top命令 怎么退出?
- MySQL 中decimal 的用法? 存儲小
- get 、set 、toString 方法的使
- @Resource和 @Autowired注解
- Java基礎操作-- 運算符,流程控制 Flo
- 1. Int 和Integer 的區別,Jav
- spring @retryable不生效的一種
- Spring Security之認證信息的處理
- Spring Security之認證過濾器
- Spring Security概述快速入門
- Spring Security之配置體系
- 【SpringBoot】SpringCache
- Spring Security之基于方法配置權
- redisson分布式鎖中waittime的設
- maven:解決release錯誤:Artif
- restTemplate使用總結
- Spring Security之安全異常處理
- MybatisPlus優雅實現加密?
- Spring ioc容器與Bean的生命周期。
- 【探索SpringCloud】服務發現-Nac
- Spring Security之基于HttpR
- Redis 底層數據結構-簡單動態字符串(SD
- arthas操作spring被代理目標對象命令
- Spring中的單例模式應用詳解
- 聊聊消息隊列,發送消息的4種方式
- bootspring第三方資源配置管理
- GIT同步修改后的遠程分支