直播預告:主講如何低成本訓練和部署 TB 級大模型的推薦系統

直播預告:主講如何低成本訓練和部署 TB 級大模型的推薦系統

2020年7月,智東西公開課曾策劃推出推薦系統公開課,NVIDIA 資深機器學習專家王澤寰圍繞主題《 NVIDIA 推薦系統 Merlin 以及在網際網路業務中的應用》,對 Merlin 的架構組成及演算法原理進行了深度講解。

7月5日,NVIDIA Merlin 推薦系統公開課再上新。本次公開課由 NVIDIA 高階產品經理高文雯和 NVIDIA 高階開發經理王澤寰分別進行主講和直播答疑,主題為《NVIDIA Merlin GPU 推薦系統加速大模型訓練和推理》。

NVIDIA Merlin 是專為 GPU 上推薦系統工作流程設計的一款端到端的開源框架,其中包括了資料預處理、功能轉換、培訓、最佳化和部署等功能,旨在加速推薦系統工作者的工作流程,簡化推薦系統的構建。Merlin 在 GPU 上的加速最佳化方案包括用於構建基於深度學習的系統的工具,能夠處理 TB 級的資料,以便提供更精準的預測並增加點選量。

在今年3月, NVIDIA 釋出了 NVIDIA Merlin 1。0 超大規模推薦系統。最新版本的 NVIDIA Merlin 提供了對功能、模型的快速迭代,以及部署經過充分訓練的推薦程式管道,將功能轉換、檢索和排名模型作為推理微服務等功能。資料科學家可以用不到 50 行程式碼來訓練和部署推薦模型,機器學習工程師。

也可以輕鬆地利用分級儲存以低延遲高精確率將大模型輕鬆部署到 Triton 推理平臺,同時也支援 TensorFlow 使用者使用大規模多 GPU 、多節點模型並行式訓練。

在本次公開課,高文雯將參與主講環節。她會結合 NVIDIA Merlin 的最新動態,重點講解 Merlin 高達 12 倍加速的高效能訓練,以及如何低成本訓練和部署 TB 級大模型。最後,高文雯將會講解 Merlin 新增元件 Merlin Models 和 Merlin System – 怎樣用短短几行程式碼實驗各種模型。另一位主講人王澤寰則將主要參與問答環節。

「 NVIDIA Merlin 推薦系統公開課」將在智東西公開課知識店鋪上以影片直播的形式進行。

公開課資訊

主 題

《NVIDIA Merlin GPU 推薦系統加速大模型訓練和推理》

提 綱

1、端到端推薦系統 NVIDIA Merlin 介紹及最新動態

2、高達 12 倍加速的高效能訓練

3、低成本訓練和部署 TB 級大模型

4、靈活易用:短短几行程式碼實驗各種模型

主 講 人

高文雯 NVIDIA 高階產品經理;在 NVIDIA 擔任 Merlin 的產品經理,在此之前曾在亞馬遜以及多家科技公司擔任產品經理;本科畢業於加拿大多倫多大學計算機系,並在美國麻省理工斯隆商學院獲得MBA學位。

王澤寰 NVIDIA 高階開發經理;是 GPU 推薦系統框架 Merlin HugeCTR / Rnn 推理加速框架 RnnEngine 的主要作者和開發經理,也是 NVIDIA 亞太 GPU 計算專家研發團隊經理;畢業於北京郵電大學,自2012年加入 NVIDIA 一直從事 GPU 加速解決方案相關工作。

直 播 時 間

7月5日19:00-20:00

報名連結

https://aiorang。com/f/PEmOhkVBtfmOPn

TAG: NVIDIAMerlin公開課GPU推薦