網(wǎng)站首頁 編程語言 正文
一. 整個文件讀入內(nèi)存
直接將數(shù)據(jù)直接讀取入內(nèi)存，是效率最高的一種方式，但此種方式，僅適用于小文件，對于大文件，則不適合，因為比較浪費內(nèi)存
1.直接指定文化名讀取
在 Go 1.16 開始，ioutil.ReadFile 就等價于 os.ReadFile，二者是完全一致的
1.1使用os.ReadFile函數(shù)讀取文件
package main
import (
"fmt"
"os"
)
func main() {
//func ReadFile(name string) ([]byte, error) {}
content, err := os.ReadFile("a.txt")
if err != nil {
panic(err)
}
fmt.Println(string(content))
}
1.2使用ioutil.ReadFile函數(shù)讀取文件
package main
import (
"io/ioutil"
"fmt"
)
func main() {
content, err := ioutil.ReadFile("a.txt")
if err != nil {
panic(err)
}
fmt.Println(string(content))
}
// As of Go 1.16, this function simply calls os.ReadFile.
func ReadFile(filename string) ([]byte, error) {
return os.ReadFile(filename)
}
2.先創(chuàng)建句柄再讀取
2.1使用os.OpenFile函數(shù)只讀形式獲取句柄
package main
import (
"os"
"io/ioutil"
"fmt"
)
func main() {
/*func Open(name string) (*File, error) {
return OpenFile(name, O_RDONLY, 0)
}*/
//Open是一個高級函數(shù)，是因為它是只讀模式來打開文件
/*也可以直接使用 os.OpenFile，只是要多加兩個參數(shù)
file, err := os.OpenFile("a.txt", os.O_RDONLY, 0)*/
file, err := os.Open("a.txt")
if err != nil {
panic(err)
}
//func (f *File) Close() error {}
defer file.Close()
//func ReadAll(r io.Reader) ([]byte, error) {}
content, err := ioutil.ReadAll(file)
fmt.Println(string(content))
}
2.2代碼講解
2.2.1os.File結(jié)構(gòu)體
type File struct {
*file // os specific
}
2.2.2os.OpenFile函數(shù)
func OpenFile(name string, flag int, perm FileMode) (
*File, error) {}
2.2.3io.Reader接口
type Reader interface {
Read(p []byte) (n int, err error)
}
二.每次只讀取一行
一次性讀取所有的數(shù)據(jù)，太耗費內(nèi)存，因此可以指定每次只讀取一行數(shù)據(jù)，方法有三種：
(1)bufio.讀行（）
(2)bufio.讀取字節(jié)（"\n"）
(3)bufio.ReadString（’\n’）
在 bufio 的源碼注釋中，曾說道 bufio.ReadLine（） 是低級庫，不太適合普通用戶使用，更推薦用戶使用 bufio.ReadBytes和bufio.ReadString 去讀取單行數(shù)據(jù)
因此，這里不再介紹 bufio.讀行（）
1.使用bufio.Reader結(jié)構(gòu)體的ReadBytes方法讀取字節(jié)數(shù)
ReadBytes讀取直到第一次遇到delim字節(jié)，返回一個包含已讀取的數(shù)據(jù)和delim字節(jié)的切片。如果ReadBytes方法在讀取到delim之前遇到了錯誤，它會返回在錯誤之前讀取的數(shù)據(jù)以及該錯誤（一般是io.EOF）。當且僅當ReadBytes方法返回的切片不以delim結(jié)尾時，會返回一個非nil的錯誤
package main
import (
"bufio"
"fmt"
"io"
"os"
"strings"
)
func main() {
// 創(chuàng)建句柄
fi, err := os.Open("christmas_apple.py")
if err != nil {
panic(err)
}
//func NewReader(rd io.Reader) *Reader {}，返回的是bufio.Reader結(jié)構(gòu)體
r := bufio.NewReader(fi)// 創(chuàng)建 Reader
for {
//func (b *Reader) ReadBytes(delim byte) ([]byte, error) {}
lineBytes, err := r.ReadBytes('\n')
//去掉字符串首尾空白字符，返回字符串
line := strings.TrimSpace(string(lineBytes))
if err != nil && err != io.EOF {
panic(err)
}
if err == io.EOF {
break
}
fmt.Println(line)
}
}
2.使用bufio.Reader結(jié)構(gòu)體的ReadString方法讀取字符串
ReadString讀取直到第一次遇到delim字節(jié)，返回一個包含已讀取的數(shù)據(jù)和delim字節(jié)的字符串。如果ReadString方法在讀取到delim之前遇到了錯誤，它會返回在錯誤之前讀取的數(shù)據(jù)以及該錯誤（一般是io.EOF）。當且僅當ReadString方法返回的切片不以delim結(jié)尾時，會返回一個非nil的錯誤
package main
import (
"bufio"
"fmt"
"io"
"os"
"strings"
)
func main() {
// 創(chuàng)建句柄
fi, err := os.Open("a.txt")
if err != nil {
panic(err)
}
// 創(chuàng)建 Reader
r := bufio.NewReader(fi)
for {
//func (b *Reader) ReadString(delim byte) (string, error) {}
line, err := r.ReadString('\n')
line = strings.TrimSpace(line)
if err != nil && err != io.EOF {
panic(err)
}
if err == io.EOF {
break
}
fmt.Println(line)
}
}
3.代碼講解
3.1bufio.Reader結(jié)構(gòu)體
type Reader struct {
buf []byte
rd io.Reader // reader provided by the client
r, w int // buf read and write positions
err error
lastByte int // last byte read for UnreadByte; -1 means invalid
lastRuneSize int // size of last rune read for UnreadRune; -1 means invalid
}
三.每次只讀取固定字節(jié)數(shù)
每次僅讀取一行數(shù)據(jù)，可以解決內(nèi)存占用過大的問題，但要注意的是，并不是所有的文件都有換行符 \n;
因此對于一些不換行的大文件來說，還得再想想其他辦法
1.使用os庫
通用的做法是：
先創(chuàng)建一個文件句柄，可以使用 os.Open 或者 os.OpenFile；
然后 bufio.NewReader 創(chuàng)建一個 Reader；
然后在 for 循環(huán)里調(diào)用 Reader 的 Read 函數(shù)，每次僅讀取固定字節(jié)數(shù)量的數(shù)據(jù)
Read方法讀取數(shù)據(jù)寫入p；本方法返回寫入p的字節(jié)數(shù)；本方法一次調(diào)用最多會調(diào)用下層Reader接口一次Read方法，因此返回值n可能小于len§；讀取到達結(jié)尾時，返回值n將為0而err將為io.EOF
package main
import (
"bufio"
"fmt"
"io"
"os"
)
func main() {
// 創(chuàng)建句柄
fi, err := os.Open("a.txt")
if err != nil {
panic(err)
}
// 創(chuàng)建 Reader
r := bufio.NewReader(fi)
// 每次讀取 1024 個字節(jié)
buf := make([]byte, 1024)
for {
//func (b *Reader) Read(p []byte) (n int, err error) {}
n, err := r.Read(buf)
if err != nil && err != io.EOF {
panic(err)
}
if n == 0 {
break
}
fmt.Println(string(buf[:n]))
}
}
2.使用 syscall庫
os 庫本質(zhì)上也是調(diào)用 syscall 庫，但由于 syscall 過于底層，如非特殊需要，一般不會使用 syscall；
本篇為了內(nèi)容的完整度，這里也使用 syscall 來舉個例子；
本例中，會每次讀取 100 字節(jié)的數(shù)據(jù)，并發(fā)送到通道中，由另外一個協(xié)程進行讀取并打印出來
package main
import (
"fmt"
"sync"
"syscall"
)
func main() {
fd, err := syscall.Open("christmas_apple.py", syscall.O_RDONLY, 0)
if err != nil {
fmt.Println("Failed on open: ", err)
}
defer syscall.Close(fd)
var wg sync.WaitGroup
wg.Add(2)
dataChan := make(chan []byte)
go func() {
wg.Done()
for {
data := make([]byte, 100)
n, _ := syscall.Read(fd, data)
if n == 0 {
break
}
dataChan <- data
}
close(dataChan)
}()
go func() {
defer wg.Done()
for {
select {
case data, ok := <-dataChan:
if !ok {
return
}
fmt.Printf(string(data))
default:
}
}
}()
wg.Wait()
}
總結(jié)
原文鏈接：https://blog.csdn.net/weixin_52690231/article/details/123007771
相關推薦
- 2022-04-11 架構(gòu)思維之緩存雪崩的災難復盤_相關技巧
- 2023-01-21 Python中的二維列表使用及說明_python
- 2022-06-16 C#實現(xiàn)優(yōu)先隊列和堆排序_C#教程
- 2022-12-28 golang?gin?監(jiān)聽rabbitmq隊列無限消費的案例代碼_Golang
- 2022-05-05 Python學習之流程控制與條件判斷總結(jié)_python
- 2023-02-07 Golang中結(jié)構(gòu)體映射mapstructure庫深入詳解_Golang
- 2022-07-06 React項目中hook實現(xiàn)展示對話框功能_React
- 2023-04-06 Python求字符串的長度示例代碼_python
- 最近更新
-
- window11 系統(tǒng)安裝 yarn
- 超詳細win安裝深度學習環(huán)境2025年最新版（
- Linux 中運行的top命令 怎么退出？
- MySQL 中decimal 的用法？ 存儲小
- get 、set 、toString 方法的使
- @Resource和 @Autowired注解
- Java基礎操作-- 運算符，流程控制 Flo
- 1. Int 和Integer 的區(qū)別，Jav
- spring @retryable不生效的一種
- Spring Security之認證信息的處理
- Spring Security之認證過濾器
- Spring Security概述快速入門
- Spring Security之配置體系
- 【SpringBoot】SpringCache
- Spring Security之基于方法配置權(quán)
- redisson分布式鎖中waittime的設
- maven:解決release錯誤：Artif
- restTemplate使用總結(jié)
- Spring Security之安全異常處理
- MybatisPlus優(yōu)雅實現(xiàn)加密？
- Spring ioc容器與Bean的生命周期。
- 【探索SpringCloud】服務發(fā)現(xiàn)-Nac
- Spring Security之基于HttpR
- Redis 底層數(shù)據(jù)結(jié)構(gòu)-簡單動態(tài)字符串（SD
- arthas操作spring被代理目標對象命令
- Spring中的單例模式應用詳解
- 聊聊消息隊列，發(fā)送消息的4種方式
- bootspring第三方資源配置管理
- GIT同步修改后的遠程分支
提供CDN加速