目前分類:未分類文章 (331)
- Oct 24 Thu 2024 19:16
小白學哲學 八.用照相作比喻——唯物論的知識論
- Oct 24 Thu 2024 14:37
小白學哲學 七.牛角尖旅行記——哲學的物質和科學的物質
七 牛角尖旅行記
哲學的物質和科學的物質
- Oct 24 Thu 2024 14:04
小白學哲學 六.不如意的事——物質的特點
- Oct 24 Thu 2024 13:42
小白學哲學 五.客觀的東西是什麼——唯物論
- Oct 24 Thu 2024 13:10
小白學哲學 四.一塊招牌上的種種花樣——觀念論和二元論
- Oct 24 Thu 2024 12:48
小白學哲學 三.兩大類的世界觀——哲學的兩大陣營
- Oct 24 Thu 2024 08:36
小白學哲學 二.哲學的真面目——哲學是什麼
- Oct 24 Thu 2024 08:32
小白學哲學 一.哲學並不神祕——哲學與日常生活的關係
- May 28 Tue 2024 15:02
全篇完 <<AI人工智慧 PyTorch自學>> 12.9 TRT python 工程化
- May 28 Tue 2024 14:55
<<AI人工智慧 PyTorch自學>> 12.8 QAT 量化實踐
- May 28 Tue 2024 14:52
<<AI人工智慧 PyTorch自學>> 12.7 PTQ 量化實踐
- May 28 Tue 2024 14:46
<<AI人工智慧 PyTorch自學>> 12.6 模型量化基礎概念
12.6 模型量化基礎概念
前言 量化是模型壓縮和加速常用的方法,因其效果相較於蒸餾、剪枝都要好,因此被大量的應用。 TensorRT也提供了模型量化的功能,本節開始來學習如何利用TensorRT進行模型量化,實現模型存儲的減小,時延的降低,輸送量的提升。 由於量化是非常大的概念,知識點和技巧非常多,因此量化將分為三個小節,第一個小節介紹量化基礎概念,第二小節介紹TensorRT的PTQ(Post-Trainning Quantization,訓練後量化)的方法,第三節介紹QAT(Quantization-aware training,量化感知訓練) 。
- May 28 Tue 2024 14:44
<<AI人工智慧 PyTorch自學>> 12.5 TensorRT API 使用
- May 28 Tue 2024 14:41
<<AI人工智慧 PyTorch自學>> 12.4 TensorRT 實用工具
- May 28 Tue 2024 14:39
<<AI人工智慧 PyTorch自學>> 12.3 trtexec 工具使用
12.3 trtexec 工具使用
本小節介紹trtexec工具的使用,trtexec可以實現onnx模型匯出trt模型、耗時分析和模型優化分析等功能,本節將對trtexec的運用進行介紹。
- May 28 Tue 2024 14:36
<<AI人工智慧 PyTorch自學>> 12.2 TensorRT 工作流及cuda-python
- May 28 Tue 2024 14:34
<<AI人工智慧 PyTorch自學>> 第十二章 TensorRT 使用 12.1 TensorRT 簡介與安裝
- May 28 Tue 2024 11:40
<<AI人工智慧 PyTorch自學>> 11.3 ONNXRuntime 進階使用
- May 28 Tue 2024 11:34
<<AI人工智慧 PyTorch自學>> 11.2 ONNXRuntime 簡介與使用
- May 28 Tue 2024 11:30
<<AI人工智慧 PyTorch自學>> 下篇:PYTORCH 模型部署 第十一章 ONNX 使用 11.1 ONNX 簡介與安裝