網(wǎng)站首頁 編程語言 正文
正文
圖片數(shù)據(jù)一般有兩種情況:
1、所有圖片放在一個文件夾內(nèi),另外有一個txt文件顯示標(biāo)簽。
2、不同類別的圖片放在不同的文件夾內(nèi),文件夾就是圖片的類別。
針對這兩種不同的情況,數(shù)據(jù)集的準(zhǔn)備也不相同,第一種情況可以自定義一個Dataset,第二種情況直接調(diào)用torchvision.datasets.ImageFolder來處理。下面分別進(jìn)行說明:
一、所有圖片放在一個文件夾內(nèi)
這里以mnist數(shù)據(jù)集的10000個test為例, 我先把test集的10000個圖片保存出來,并生著對應(yīng)的txt標(biāo)簽文件。
先在當(dāng)前目錄創(chuàng)建一個空文件夾mnist_test, 用于保存10000張圖片,接著運行代碼:
import torch
import torchvision
import matplotlib.pyplot as plt
from skimage import io
mnist_test= torchvision.datasets.MNIST(
'./mnist', train=False, download=True
)
print('test set:', len(mnist_test))
f=open('mnist_test.txt','w')
for i,(img,label) in enumerate(mnist_test):
img_path="./mnist_test/"+str(i)+".jpg"
io.imsave(img_path,img)
f.write(img_path+' '+str(label)+'\n')
f.close()
經(jīng)過上面的操作,10000張圖片就保存在mnist_test文件夾里了,并在當(dāng)前目錄下生成了一個mnist_test.txt的文件,大致如下:
前期工作就裝備好了,接著就進(jìn)入正題了:
from torchvision import transforms, utils
from torch.utils.data import Dataset, DataLoader
import matplotlib.pyplot as plt
from PIL import Image
def default_loader(path):
return Image.open(path).convert('RGB')
class MyDataset(Dataset):
def __init__(self, txt, transform=None, target_transform=None, loader=default_loader):
fh = open(txt, 'r')
imgs = []
for line in fh:
line = line.strip('\n')
line = line.rstrip()
words = line.split()
imgs.append((words[0],int(words[1])))
self.imgs = imgs
self.transform = transform
self.target_transform = target_transform
self.loader = loader
def __getitem__(self, index):
fn, label = self.imgs[index]
img = self.loader(fn)
if self.transform is not None:
img = self.transform(img)
return img,label
def __len__(self):
return len(self.imgs)
train_data=MyDataset(txt='mnist_test.txt', transform=transforms.ToTensor())
data_loader = DataLoader(train_data, batch_size=100,shuffle=True)
print(len(data_loader))
def show_batch(imgs):
grid = utils.make_grid(imgs)
plt.imshow(grid.numpy().transpose((1, 2, 0)))
plt.title('Batch from dataloader')
for i, (batch_x, batch_y) in enumerate(data_loader):
if(i<4):
print(i, batch_x.size(),batch_y.size())
show_batch(batch_x)
plt.axis('off')
plt.show()
自定義了一個MyDataset, 繼承自torch.utils.data.Dataset。然后利用torch.utils.data.DataLoader將整個數(shù)據(jù)集分成多個批次。
二、不同類別的圖片放在不同的文件夾內(nèi)
同樣先準(zhǔn)備數(shù)據(jù),這里以flowers數(shù)據(jù)集為例
提取?鏈接: https://pan.baidu.com/s/1dcAsOOZpUfWNYR77JGXPHA?pwd=mwg6?
花總共有五類,分別放在5個文件夾下。大致如下圖:
我的路徑是d:/flowers/.
數(shù)據(jù)準(zhǔn)備好了,就開始準(zhǔn)備Dataset吧,這里直接調(diào)用torchvision里面的ImageFolder
import torch
import torchvision
from torchvision import transforms, utils
import matplotlib.pyplot as plt
img_data = torchvision.datasets.ImageFolder('D:/bnu/database/flower',
transform=transforms.Compose([
transforms.Scale(256),
transforms.CenterCrop(224),
transforms.ToTensor()])
)
print(len(img_data))
data_loader = torch.utils.data.DataLoader(img_data, batch_size=20,shuffle=True)
print(len(data_loader))
def show_batch(imgs):
grid = utils.make_grid(imgs,nrow=5)
plt.imshow(grid.numpy().transpose((1, 2, 0)))
plt.title('Batch from dataloader')
for i, (batch_x, batch_y) in enumerate(data_loader):
if(i<4):
print(i, batch_x.size(), batch_y.size())
show_batch(batch_x)
plt.axis('off')
plt.show()
原文鏈接:https://www.cnblogs.com/denny402/p/7512516.html
相關(guān)推薦
- 2023-10-14 ORACLE存在就修改 不存在就新增(注意更新和新增語法不同于常規(guī)語法)
- 2022-03-13 用Docker搭建nextcloud個人網(wǎng)盤教程_docker
- 2022-06-08 如何在springboot中使用Thymeleaf
- 2022-09-07 在SQL?Server中使用?Try?Catch?處理異常的示例詳解_MsSql
- 2022-11-08 python安裝包出現(xiàn)Retrying?(Retry(total=4,?connect=None,?
- 2022-07-03 kali安裝docker及搭建漏洞環(huán)境的詳細(xì)教程_docker
- 2022-09-09 python中對開區(qū)間和閉區(qū)間的理解_python
- 2022-12-11 React?state狀態(tài)屬性用法講解_React
- 最近更新
-
- window11 系統(tǒng)安裝 yarn
- 超詳細(xì)win安裝深度學(xué)習(xí)環(huán)境2025年最新版(
- Linux 中運行的top命令 怎么退出?
- MySQL 中decimal 的用法? 存儲小
- get 、set 、toString 方法的使
- @Resource和 @Autowired注解
- Java基礎(chǔ)操作-- 運算符,流程控制 Flo
- 1. Int 和Integer 的區(qū)別,Jav
- spring @retryable不生效的一種
- Spring Security之認(rèn)證信息的處理
- Spring Security之認(rèn)證過濾器
- Spring Security概述快速入門
- Spring Security之配置體系
- 【SpringBoot】SpringCache
- Spring Security之基于方法配置權(quán)
- redisson分布式鎖中waittime的設(shè)
- maven:解決release錯誤:Artif
- restTemplate使用總結(jié)
- Spring Security之安全異常處理
- MybatisPlus優(yōu)雅實現(xiàn)加密?
- Spring ioc容器與Bean的生命周期。
- 【探索SpringCloud】服務(wù)發(fā)現(xiàn)-Nac
- Spring Security之基于HttpR
- Redis 底層數(shù)據(jù)結(jié)構(gòu)-簡單動態(tài)字符串(SD
- arthas操作spring被代理目標(biāo)對象命令
- Spring中的單例模式應(yīng)用詳解
- 聊聊消息隊列,發(fā)送消息的4種方式
- bootspring第三方資源配置管理
- GIT同步修改后的遠(yuǎn)程分支