• 中篇：PYTORCH 案例應用

第八章 圖像專案案例

• 第八章 圖像專案案例
  • 8.1 圖像分類——胸部X光肺炎分類
  • 8.2 圖像分割——腦MRI膠質瘤分割
  • 8.3 目標檢測——無人機檢測
  • 8.4 目標跟蹤（上）——DeepSORT原理
  • 8.4 目標跟蹤（下）——虎門大橋車流量統計
  • 8.5 生成對抗網路——CycleGAN
  • 8.6 擴散模型——DDPM
  • 8.7 圖像描述——Image Captioning
  • 8.8 圖像檢索（上）——理論基礎
  • 8.8 圖像檢索（下）——CLIP+Faiss+Flask的圖像檢索系統

第八章簡介

7.7 TorchEnsemble 模型集成庫

俗話說，三個臭皮匠頂個諸葛亮，機器學習模型亦是如此。Model Ensemble（模型集成）是機器學習領域重要的研究方向，在傳統機器學習以及各種資料科學競賽中，Model Ensemble成了標配， 因此，本節就介紹工業生產中實用的模型集成技術。

7.6 albumentations 資料增強庫

7.5 torchmetrics 模型評估指標庫

模型訓練時是通過loss進行好壞的評估，因為我們採用的是loss進行方向傳播。對於人類評判好壞，往往不是通過loss值，而是採用某種評判指標。

7.4 模型訓練代碼範本

一個良好的訓練代碼，可以有助於分析和超參調優，本節將以torchvision提供的分類模型訓練代碼為基礎，編寫適合自己的訓練代碼框架。

7.3 GPU使用

深度學習之所以可以發展迅猛，得益於強大的計算力。在PyTorch中，自然加持GPU加速運算，本節將介紹PyTorch中GPU的使用原理與多GPU使用的DataParallel原理，還有一些針對GPU的實用程式碼片段。

7.2 Finetune 模型微調

Finetune（微調）是深度學習模型訓練中常用的方法。Finetune的理論可從遷移學習（Transfer Learning）中學習。

遷移學習

Transfer Learning是機器學習的分支，主要研究源域(source domain)所學到的知識，如何遷移到目標域(target domain)中

第七章 PyTorch 小技巧匯總

6.5 模型參數視覺化

隨著神經網路越來越深，越來越複雜，手動計算模型中間的資料的shape變得困難。

本節將介紹torchinfo，可用一鍵實現模型參數量計算、各層特徵圖形狀計算和計算量計算等功能。

6.4 CAM視覺化與hook函數使用

前文說到，在本章第二節介紹CNN的視覺化時我們知道，深度學習模型仍是一個黑箱，大家想盡辦法對其進行視覺化，本節就介紹一個實用的分析方法CAM(Class activation mapping，類啟動圖)，如下圖所示：

6.3 混淆矩陣與訓練曲線視覺化

在分類任務中，通過混淆矩陣可以看出模型的偏好，而且對每一個類別的分類情況都瞭若指掌，為模型的優化提供很大説明。本節將介紹混淆矩陣概念及其視覺化。

6.2 CNN卷積核與特徵圖視覺化

眾所周知，深度學習仍是一個黑盒子，模型內部的邏輯含義仍舊無法解釋，越是未知的東西，越能激起人們的好奇心。

第六章 PyTorch 視覺化模組

• 第六章 PyTorch 視覺化模組
  • 6.1 TensorBoard安裝與使用
  • 6.2 CNN卷積核與特徵圖視覺化
  • 6.3 混淆矩陣與訓練曲線視覺化
  • 6.4 CAM視覺化與hook函數使用
  • 6.5 模型參數列印

第六章簡介

本章介紹視覺化工具，包括TensorBoard視覺化工具，混淆矩陣，CNN卷積核與特徵圖視覺化，分類模型注意力演算法——Grad CAM，模型參數量視覺化。

首先對強大的視覺化工具TensorBoard進行講解，介紹其提供的十多個資料視覺化API。

5.3 學習率調整策略

5.2 十三個優化器

Optimizer 簡介

第五章 PyTorch 優化模組

• 第五章 PyTorch 優化模組
  • 5.1 二十一個損失函數
  • 5.2 十三個優化器
  • 5.3 十四個學習率調整器

第五章簡介

本章開始介紹模型優化過程中涉及的三大概念：損失函數、優化器和學習率調整。

由於損失函數、優化器、學習率調整的方法有非常多，僅pytorch官方實現（V1.10）的就有二十一個損失函數，十三個優化器，十四個學習率調整方法。

4.7 權重初始化方法

良好的模型權重初始化，有利於模型的訓練，在torch.nn.init中提供了數十個初始化方法，本小節對它們進行介紹。

4.6 經典Model代碼分析

torchvision中提供了一些經典的卷積神經網路模型實現，本小節將挑選部分進行分析，學習torchvision是如何構建複雜的網路模型，學習它們的代碼風格、代碼規範。

4.5 hook函數

注：本小節主要參考《PyTorch模型訓練實用教程》（第一版），主要更新了PyTorch新版本的函數——torch.nn.Module.register_full_backward_hook。

4.4 Module常用函數

本小節匯總介紹Module常用的方法，由於文檔中是按首字母排序展示所有方法，未按用途進行歸類，不便於理解各函數之間的關係。在這裡，特別將具有相似功能的相關函數歸納整理，供大家參考學習。