網站首頁 編程語言 正文
1.應用領域:
全角和半角的轉換通常用在自然語言處理過程中,由于全角和半角的不一致會導致信息抽取不一致,在使用語料訓練語言模型會導致模型的效果不準確,所以需要統一。
2.全角半角轉換概述
- 全角字符unicode編碼范圍從65281~65374 (對應的十六進制范圍是: 0xFF01 ~ 0xFF5E)
- 半角字符unicode編碼范圍從33~126 (對應的十六進制范圍從 0x21~ 0x7E)
- 空格比較特殊,全角為12288(0x3000),半角為 32 (0x20)
- 除空格外, 全角/半角按unicode編碼排序在順序上是對應的(半角 +65248 = 全角 or 半角 + 0x7e= 全角 )
- 所以可以直接通過用±法來處理非空格數據,對空格單獨處理
3.請注意:
中文文字永遠是全角,只有英文字母、數字鍵、符號鍵才有全角半角的概念。
一個字母或數字占一個漢字的位置叫全角,占半個漢字的位置叫半角。
引號在中英文、全半角情況下是不同的
4.應用到的庫函數
- chr()函數用一個范圍在range(256)內的(就是0~255)整數作參數,返回一個對應的字符。
- unichr()跟它一樣,只不過返回的是Unicode字符。
- ord()函數是chr()函數(對于8位的ASCII字符串)或unichr()函數(對于Unicode對象)的配對函數,它以一個字符(長度為1的字符串)作為參數,返回對應的ASCII數值,或者Unicode數值。
示例:
5.全角轉半角:
def strQ2B(ustring): rstring = "" for uchar in ustring: inside_code = ord(uchar) if inside_code == 12288: # 全角空格直接轉換 inside_code = 32 elif 65281 <= inside_code <= 65374: # 全角字符(除空格)根據關系轉化 inside_code -= 65248 rstring += chr(inside_code) return rstring str11 = strQ2B("電影《2012》講述了2012年12月21日的世界末日,主人公Jack以及世界各國人民掙扎求生的經歷!") print(str11)
運行結果:
電影《2012》講述了2012年12月21日的世界末日,主人公Jack以及世界各國人民掙扎求生的經歷!
6.半角轉成全角:
def strB2Q(ustring): """半角轉全角""" rstring = "" for uchar in ustring: inside_code = ord(uchar) if inside_code == 32: # 半角空格直接轉化 inside_code = 12288 elif 32 <= inside_code <= 126: # 半角字符(除空格)根據關系轉化 inside_code += 65248 rstring += chr(inside_code) return rstring str22 = strB2Q("電影《2012》講述了2012年12月21日的世界末日,主人公Jack以及世界各國人民掙扎求生的經歷!") print(str22)
運行結果:
電影《2012》講述了2012年12月21日的世界末日,主人公Jack以及世界各國人民掙扎求生的經歷!
附:如何通過python轉換全角字符串為半角字符串實例
# coding:utf-8 from idna import unichr def all_to_half(all_string): """全角轉半角""" half_string = "" for char in all_string: inside_code = ord(char) if inside_code == 12288: # 全角空格直接轉換,全角和半角的空格的Unicode值相差12256 inside_code = 32 elif (inside_code >= 65281 and inside_code <= 65374): # 全角字符(除空格)根據關系轉化,除空格外的全角和半角的Unicode值相差65248 inside_code -= 65248 half_string += unichr(inside_code) return half_string
說在后面:
下面的內容都是從網上整理出來,因為曾經使用過,所以以后查詢起來比較方便。
原文鏈接:https://blog.csdn.net/weixin_38819889/article/details/103288086
相關推薦
- 2022-07-25 Android自定義View原理(實戰)_Android
- 2022-05-07 MVC中Action方法的返回類型介紹_基礎應用
- 2022-12-11 C++?Boost?Tokenizer使用詳細講解_C 語言
- 2022-06-08 Element-UI中selet下拉框無法回顯問題
- 2022-08-30 Window環境下配置Mongodb數據庫_MongoDB
- 2022-07-22 CSS3過渡與動畫
- 2022-07-08 關于Python與Golang語言的對比分析_其它綜合
- 2022-04-14 解決Goland錯誤:$GOPATH/go.mod exists but should not
- 最近更新
-
- window11 系統安裝 yarn
- 超詳細win安裝深度學習環境2025年最新版(
- Linux 中運行的top命令 怎么退出?
- MySQL 中decimal 的用法? 存儲小
- get 、set 、toString 方法的使
- @Resource和 @Autowired注解
- Java基礎操作-- 運算符,流程控制 Flo
- 1. Int 和Integer 的區別,Jav
- spring @retryable不生效的一種
- Spring Security之認證信息的處理
- Spring Security之認證過濾器
- Spring Security概述快速入門
- Spring Security之配置體系
- 【SpringBoot】SpringCache
- Spring Security之基于方法配置權
- redisson分布式鎖中waittime的設
- maven:解決release錯誤:Artif
- restTemplate使用總結
- Spring Security之安全異常處理
- MybatisPlus優雅實現加密?
- Spring ioc容器與Bean的生命周期。
- 【探索SpringCloud】服務發現-Nac
- Spring Security之基于HttpR
- Redis 底層數據結構-簡單動態字符串(SD
- arthas操作spring被代理目標對象命令
- Spring中的單例模式應用詳解
- 聊聊消息隊列,發送消息的4種方式
- bootspring第三方資源配置管理
- GIT同步修改后的遠程分支