模型的保存與加載

首先，需要導入兩個包

import torch
import torchvision.models as models

保存和加載模型參數

PyTorch模型將學習到的參數存儲在一個內部狀態字典中，叫做state_dict。這可以通過torch.save方法來實現。
我們導入預訓練好的VGG16模型，并將其保存。我們將state_dict字典保存在model_weights.pth文件中。

model = models.vgg16(pretrained=True)
torch.save(model.state_dict(), 'model_weights.pth')

想要加載模型參數，我們需要創建一個和原模型一樣的實例，然后通過load_state_dict()方法來加載模型參數

• 創建一個VGG16模型實例（未經過預訓練的）
• 加載本地參數

model = models.vgg16() # we do not specify pretrained=True, i.e. do not load default weights
model.load_state_dict(torch.load('model_weights.pth'))
model.eval()

注意：在進行測試前，如果模型中有dropout層和batch normalization層的話，一定要使用model.eval()將模型轉到測試模式。

• 在train模式下，dropout網絡層會按照設定的參數p設置保留激活單元的概率（保留概率=p); batchnorm層會繼續計算數據的mean和var等參數并更新。
• 在val模式下，dropout層會讓所有的激活單元都通過，而batchnorm層會停止計算和更新mean和var，直接使用在訓練階段已經學出的mean和var值

當然，相同的，在模型進行訓練之前，要使用model.train()來將模型轉為訓練模式

保存和加載模型參數與結構

當加載模型權重時，我們需要首先實例化模型類，因為類定義了網絡的結構。我們可能希望將這個類的結構與模型保存在一起。這樣的話，我們可以將model而不是model.state_dict()作為參數。

torch.save(model, 'model.pth')

這樣，我們加載模型的時候就不用再新建一個實例了。加載方式如下所示

model = torch.load('model.pth')

這種方式在網絡比較大的時候可能比較慢，因為相較于上面的方式多存儲了網絡的結構

總結