網站首頁 編程語言 正文
unicode編碼方案:
unicode只規定了每個字符所對應的碼值(碼點),即編碼,但并沒有規定如何在計算機中實現。同一個字符,可通過utf-8、utf-16、utf-32、gb2312(對中文)等多種方式各自實現。encode()方法就是將unicode編碼方式轉化為對應的實現方式,而decode()相反,將實現方式轉化為編碼。
1.decode()
bytes.decode(encoding=“utf-8”, errors=“strict”)
1.這個函數是bytes類型數據調用的,字符串str類型是不能夠調用的。(好多文章說字符串也可以調用該函數,我是真搞不懂。)
2.該函數返回字符串。換句話說是bytes類型轉化成str類型的函數。
3.encoding規定解碼方式。bytes數據是由什么編碼方式編碼的,該函數encoding參數就必須用相應解碼方式,這樣才能返回正確字符串。解碼后的字符串自動轉為unicode編碼方式。
4.errors參數默認為strict,即解碼錯誤后引起異常發生。其他參數值為ignore,replace等。
2.encode()
str.encode(encoding=“utf-8”, errors=“strict”)
參數含義同上。這個函數將字符串轉化成相應編碼方式的字節形式。對于ASCII字符(數字,英文,部分標點符號)而言,不同編碼方式編碼后的字節是一樣的。但是對于中文來說,編碼后的字節不一樣。
3.轉碼
例如,我有一個中文網站,網站編碼方式為gb2312,我通過requests請求后要將網頁打印出來。但是python內部是unicode編碼的,直接response.text肯定會返回亂碼。
import requests
url_all="https://www.kanunu8.com/"
header_all={
'user-agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/71.0.3578.98 Safari/537.36',
'upgrade-insecure-request': '1',
}
def get_classification_urls(url,headers):
try:
response=requests.get(url,headers=headers,timeout=10)
if response.status_code==200:
print(response.text))
except Exception as e:
print(e)
如下圖,果然亂碼
這時就需要正確解碼,即將gb2312解碼為unicode.我們可以這樣:
1.先獲取編碼的二進制格式,該格式為gb2312編碼的二進制:
bytes=response.content
2.將二進制格式通過decode()函數解碼為unicode格式:
bytes.decode(encoding="gb2312")
decode()函數是bytes類型轉str類型,這樣就能夠返回正確的字符串了。
當然,這個例子即使通過gb2312解碼,仍然是亂碼。原因可能是原網頁含有gb2312不能識別的字符(雖然gb2312是為中國文字服務的,但是有些少數名族的字符也屬于中國文字,但是并沒有包含在gb2312內)。后來為了擴充編碼,由在gb2312基礎上增加了gbk和gb18030編碼,二者范圍更廣。事例用gb18030即可正確解碼。
原文鏈接:https://blog.csdn.net/qq_27056805/article/details/86469647
相關推薦
- 2022-05-17 【go】解決“dial tcp 142.251.42.241:443: connect: conne
- 2022-04-08 Android如何使用GestureDetector進行手勢檢測詳解_Android
- 2023-04-03 React中使用Mobx的方法_React
- 2022-12-22 C++?Boost?Foreach超詳細分析講解_C 語言
- 2022-11-05 swift語言AutoreleasePool原理及使用場景_Swift
- 2022-05-10 thymeleaf給響應頁面傳遞參數(modelandview 中的model)
- 2022-11-10 Flutter?WillPopScope攔截返回事件原理示例詳解_Android
- 2022-04-15 Python爬蟲之requests庫基本介紹_python
- 最近更新
-
- window11 系統安裝 yarn
- 超詳細win安裝深度學習環境2025年最新版(
- Linux 中運行的top命令 怎么退出?
- MySQL 中decimal 的用法? 存儲小
- get 、set 、toString 方法的使
- @Resource和 @Autowired注解
- Java基礎操作-- 運算符,流程控制 Flo
- 1. Int 和Integer 的區別,Jav
- spring @retryable不生效的一種
- Spring Security之認證信息的處理
- Spring Security之認證過濾器
- Spring Security概述快速入門
- Spring Security之配置體系
- 【SpringBoot】SpringCache
- Spring Security之基于方法配置權
- redisson分布式鎖中waittime的設
- maven:解決release錯誤:Artif
- restTemplate使用總結
- Spring Security之安全異常處理
- MybatisPlus優雅實現加密?
- Spring ioc容器與Bean的生命周期。
- 【探索SpringCloud】服務發現-Nac
- Spring Security之基于HttpR
- Redis 底層數據結構-簡單動態字符串(SD
- arthas操作spring被代理目標對象命令
- Spring中的單例模式應用詳解
- 聊聊消息隊列,發送消息的4種方式
- bootspring第三方資源配置管理
- GIT同步修改后的遠程分支