|
| 商品編號： | DUE4151 |
|
| 商品名稱： | Udemy線上課程 (Ken Cen 出品) Generative AI 第 32 部：多模態融合：視覺+語言模型高效推論 (下) 講師:瞭解更多 影音教學 中文發音 |
|
| 商品分類： | Udemy線上課程綜合教學 |
|
| 語系版本： | 中文發音 繁體中文版 | |
| 商品類型： | Ken Cen 出品 | |
| 運行平台： | 官方原版畫質MP4檔,沒有任何平台限制,終身使用 | |
| 更新日期： | 2026-08-20 |
|
| 光碟片數： | 1片DVD光碟 |
|
| 銷售價格： | $200元 |
|
| 熱門標籤： | Udemy線上課程
Generative
| |
|
|
Udemy線上課程 (Ken Cen 出品) Generative AI 第 32 部：多模態融合：視覺+語言模型高效推論 (下) 講師:瞭解更多 影音教學 中文發音 繁體中文版(DVD版)
本課程會繼續在Generative AI 第 31 部的視覺模型的基礎上，繼續多模態模型的架構的編寫。
深入瞭解多模態模型如何在一個投影層上合併文字嵌入和圖像嵌入。
而多模態模型要同時處理文字+圖像信息時會有明顯的差異。
而 PaliGemma 多模態模型為什麼要把歸一化放在注意力層 & MLP 層的前面？
輸入的嵌入為什麼要乘以sqrt(hidden_size)，而不是除以sqrt(hidden_size)？
殘差連接對於防止梯度消失有什麼意義？
這些問題會在課程中，一一為您解答。
課程內容：
如何用Pytorch製作 RoPE 旋轉位置編碼
如何用 Pytorch編寫 GQA 分組查詢注意力
如何用 Pytorch 編寫 KVCache & RMS 歸一化 & MLP 多層感知器
為什麼需要殘差連接 & 為什麼Gemma 要設定前置層歸一化 & 為什麼要乘以sqrt(hidden_size)
如何合併圖片特徵 & 文字特徵 & Pad Token ID
如何使用Pytorch 實現 PaliGemma 推理過程
01 - 課程環境準備
001 加入Udemy 全球最大的中文 AI 課程.mp4
002 課程工具準備.mp4
003 如何使用uv 作為包管理器和項目管理工具.mp4
02 - 如何用Pytorch製作 PaliGemma 架構
001 如何用Pytorch製作 RoPE 旋轉位置編碼.mp4
002 如何用 Pytorch編寫 GQA 分組查詢注意力.mp4
003 如何用 Pytorch 編寫 KVCache & RMS 歸一化 & MLP 多層感知器.mp4
004 為什麼需要殘差連接 & 為什麼Gemma 要設定前置層歸一化 & 為什麼要乘以sqrt(hidden_size).mp4
005 如何合併圖片特徵 & 文字特徵 & Pad Token ID.mp4
03 - 如何使用Pytorch 實現 PaliGemma 推理過程
001 如何使用Pytorch 實現 PaliGemma 推理過程.mp4
001 Resources
001 peacock.png
|
|
專業知識教學