網(wǎng)站首頁 編程語言 正文
1.應(yīng)用領(lǐng)域:
全角和半角的轉(zhuǎn)換通常用在自然語言處理過程中,由于全角和半角的不一致會導(dǎo)致信息抽取不一致,在使用語料訓(xùn)練語言模型會導(dǎo)致模型的效果不準確,所以需要統(tǒng)一。
2.全角半角轉(zhuǎn)換概述
- 全角字符unicode編碼范圍從65281~65374 (對應(yīng)的十六進制范圍是: 0xFF01 ~ 0xFF5E)
- 半角字符unicode編碼范圍從33~126 (對應(yīng)的十六進制范圍從 0x21~ 0x7E)
- 空格比較特殊,全角為12288(0x3000),半角為 32 (0x20)
- 除空格外, 全角/半角按unicode編碼排序在順序上是對應(yīng)的(半角 +65248 = 全角 or 半角 + 0x7e= 全角 )
- 所以可以直接通過用±法來處理非空格數(shù)據(jù),對空格單獨處理
3.請注意:
中文文字永遠是全角,只有英文字母、數(shù)字鍵、符號鍵才有全角半角的概念。
一個字母或數(shù)字占一個漢字的位置叫全角,占半個漢字的位置叫半角。
引號在中英文、全半角情況下是不同的
4.應(yīng)用到的庫函數(shù)
- chr()函數(shù)用一個范圍在range(256)內(nèi)的(就是0~255)整數(shù)作參數(shù),返回一個對應(yīng)的字符。
- unichr()跟它一樣,只不過返回的是Unicode字符。
- ord()函數(shù)是chr()函數(shù)(對于8位的ASCII字符串)或unichr()函數(shù)(對于Unicode對象)的配對函數(shù),它以一個字符(長度為1的字符串)作為參數(shù),返回對應(yīng)的ASCII數(shù)值,或者Unicode數(shù)值。
示例:
5.全角轉(zhuǎn)半角:
def strQ2B(ustring): rstring = "" for uchar in ustring: inside_code = ord(uchar) if inside_code == 12288: # 全角空格直接轉(zhuǎn)換 inside_code = 32 elif 65281 <= inside_code <= 65374: # 全角字符(除空格)根據(jù)關(guān)系轉(zhuǎn)化 inside_code -= 65248 rstring += chr(inside_code) return rstring str11 = strQ2B("電影《2012》講述了2012年12月21日的世界末日,主人公Jack以及世界各國人民掙扎求生的經(jīng)歷!") print(str11)
運行結(jié)果:
電影《2012》講述了2012年12月21日的世界末日,主人公Jack以及世界各國人民掙扎求生的經(jīng)歷!
6.半角轉(zhuǎn)成全角:
def strB2Q(ustring): """半角轉(zhuǎn)全角""" rstring = "" for uchar in ustring: inside_code = ord(uchar) if inside_code == 32: # 半角空格直接轉(zhuǎn)化 inside_code = 12288 elif 32 <= inside_code <= 126: # 半角字符(除空格)根據(jù)關(guān)系轉(zhuǎn)化 inside_code += 65248 rstring += chr(inside_code) return rstring str22 = strB2Q("電影《2012》講述了2012年12月21日的世界末日,主人公Jack以及世界各國人民掙扎求生的經(jīng)歷!") print(str22)
運行結(jié)果:
電影《2012》講述了2012年12月21日的世界末日,主人公Jack以及世界各國人民掙扎求生的經(jīng)歷!
附:如何通過python轉(zhuǎn)換全角字符串為半角字符串實例
# coding:utf-8 from idna import unichr def all_to_half(all_string): """全角轉(zhuǎn)半角""" half_string = "" for char in all_string: inside_code = ord(char) if inside_code == 12288: # 全角空格直接轉(zhuǎn)換,全角和半角的空格的Unicode值相差12256 inside_code = 32 elif (inside_code >= 65281 and inside_code <= 65374): # 全角字符(除空格)根據(jù)關(guān)系轉(zhuǎn)化,除空格外的全角和半角的Unicode值相差65248 inside_code -= 65248 half_string += unichr(inside_code) return half_string
說在后面:
下面的內(nèi)容都是從網(wǎng)上整理出來,因為曾經(jīng)使用過,所以以后查詢起來比較方便。
原文鏈接:https://blog.csdn.net/weixin_38819889/article/details/103288086
相關(guān)推薦
- 2021-12-20 使用Docker構(gòu)建開發(fā)環(huán)境的方法步驟(?Windows和mac)_docker
- 2021-12-01 Android?NDK開發(fā)(C語言--聯(lián)合體與枚舉)_Android
- 2023-02-03 c語言統(tǒng)計素數(shù)之和的實例_C 語言
- 2023-07-02 oracle實現(xiàn)根據(jù)字段分組排序,取其第一條數(shù)據(jù)_oracle
- 2022-07-26 Python中迭代器與生成器的用法_python
- 2023-10-14 SQLServer 發(fā)送HTTP請求
- 2022-03-17 分布式數(shù)據(jù)存儲系統(tǒng)的三要素_數(shù)據(jù)庫其它
- 2022-11-02 Python?IDLE設(shè)置清屏快捷鍵的方法詳解_python
- 最近更新
-
- window11 系統(tǒng)安裝 yarn
- 超詳細win安裝深度學(xué)習(xí)環(huán)境2025年最新版(
- Linux 中運行的top命令 怎么退出?
- MySQL 中decimal 的用法? 存儲小
- get 、set 、toString 方法的使
- @Resource和 @Autowired注解
- Java基礎(chǔ)操作-- 運算符,流程控制 Flo
- 1. Int 和Integer 的區(qū)別,Jav
- spring @retryable不生效的一種
- Spring Security之認證信息的處理
- Spring Security之認證過濾器
- Spring Security概述快速入門
- Spring Security之配置體系
- 【SpringBoot】SpringCache
- Spring Security之基于方法配置權(quán)
- redisson分布式鎖中waittime的設(shè)
- maven:解決release錯誤:Artif
- restTemplate使用總結(jié)
- Spring Security之安全異常處理
- MybatisPlus優(yōu)雅實現(xiàn)加密?
- Spring ioc容器與Bean的生命周期。
- 【探索SpringCloud】服務(wù)發(fā)現(xiàn)-Nac
- Spring Security之基于HttpR
- Redis 底層數(shù)據(jù)結(jié)構(gòu)-簡單動態(tài)字符串(SD
- arthas操作spring被代理目標對象命令
- Spring中的單例模式應(yīng)用詳解
- 聊聊消息隊列,發(fā)送消息的4種方式
- bootspring第三方資源配置管理
- GIT同步修改后的遠程分支