日本免费高清视频-国产福利视频导航-黄色在线播放国产-天天操天天操天天操天天操|www.shdianci.com

學無先后，達者為師

網站首頁 編程語言 正文

pytorch模型保存與加載中的一些問題實戰記錄_python

作者：colourmind ? 更新時間： 2022-12-03 編程語言

前言

最近使用pytorch訓練模型，保存模型后再次加載使用出現了一些問題。記錄一下解決方案！

一、torch中模型保存和加載的方式

1、模型參數和模型結構保存和加載

torch.save(model,path)
torch.load(path)

2、只保存模型的參數和加載——這種方式比較安全，但是比較稍微麻煩一點點

torch.save(model.state_dict(),path)
model_state_dic = torch.load(path)
model.load_state_dic(model_state_dic)

二、torch中模型保存和加載出現的問題

1、單卡模型下保存模型結構和參數后加載出現的問題

模型保存的時候會把模型結構定義文件路徑記錄下來，加載的時候就會根據路徑解析它然后裝載參數；當把模型定義文件路徑修改以后，使用torch.load(path)就會報錯。

把model文件夾修改為models后，再加載就會報錯。

import torch
from model.TextRNN import TextRNN
 
load_model = torch.load('experiment_model_save/textRNN.bin')
print('load_model',load_model)

這種保存完整模型結構和參數的方式，一定不要改動模型定義文件路徑。

2、多卡機器單卡訓練模型保存后在單卡機器上加載會報錯

在多卡機器上有多張顯卡0號開始，現在模型在n>=1上的顯卡訓練保存后，拷貝在單卡機器上加載

import torch
from model.TextRNN import TextRNN
 
load_model = torch.load('experiment_model_save/textRNN_cuda_1.bin')
print('load_model',load_model)

會出現cuda device不匹配的問題——你保存的模代碼段 小部件型是使用的cuda1，那么采用torch.load()打開的時候，會默認的去尋找cuda1，然后把模型加載到該設備上。這個時候可以直接使用map_location來解決，把模型加載到CPU上即可。

load_model = torch.load('experiment_model_save/textRNN_cuda_1.bin',map_location=torch.device('cpu'))

3、多卡訓練模型保存模型結構和參數后加載出現的問題

當用多GPU同時訓練模型之后，不管是采用模型結構和參數一起保存還是單獨保存模型參數，然后在單卡下加載都會出現問題

a、模型結構和參數一起保然后在加載

torch.distributed.init_process_group(backend='nccl')

模型訓練的時候采用上述多進程的方式，所以你在加載的時候也要聲明，不然就會報錯。

b、單獨保存模型參數

model = Transformer(num_encoder_layers=6,num_decoder_layers=6)
state_dict = torch.load('train_model/clip/experiment.pt')
model.load_state_dict(state_dict)

同樣會出現問題，不過這里出現的問題是參數字典的key和模型定義的key不一樣

原因是多GPU訓練下，使用分布式訓練的時候會給模型進行一個包裝，代碼如下：

model = torch.load('train_model/clip/Vtransformers_bert_6_layers_encoder_clip.bin')
print(model)
model.cuda(args.local_rank)
。。。。。。
model = nn.parallel.DistributedDataParallel(model,device_ids=[args.local_rank],find_unused_parameters=True)
print('model',model)

包裝前的模型結構：

包裝后的模型

在外層多了DistributedDataParallel以及module，所以才會導致在單卡環境下加載模型權重的時候出現權重的keys不一致。

三、正確的保存模型和加載的方法

    if gpu_count > 1:
        torch.save(model.module.state_dict(),save_path)
    else:
        torch.save(model.state_dict(),save_path)
    model = Transformer(num_encoder_layers=6,num_decoder_layers=6)
    state_dict = torch.load(save_path)
    model.load_state_dict(state_dict)

這樣就是比較好的范式，加載不會出錯。

總結

原文鏈接：https://blog.csdn.net/HUSTHY/article/details/115199280

欄目分類
最近更新