114/12/14【推動人工智慧的高效能計算簡介】【課程活動成果紀錄】
114年12月14日在本校校本部劉炯朗館328教室辦理《推動人工智慧的高效能計算簡介》主題課程,由本校電機資訊工程學系周志遠教授主講授課,,學員透過一整天充實的課程,對人工智慧(AI)背後運算的核心機制有了更全面與深入的理解。
上午的課程主要針對人工智慧與高效能計算(HPC)的關聯性進行了基礎知識介紹。學員認識到 AI 涵蓋了機器學習(ML)與深度學習(DL),而 HPC 則是用於解決重大問題、具有極高計算能力的系統。講師詳細解釋了支撐大型 AI 模型運作的關鍵,在於計算架構與系統設計**,特別是平行計算、GPU 架構與異質運算的重要性。課程中亦提及了如何使用 HPL benchmark 來評量超級電腦的效能,並說明了超級電腦是由多台電腦組成以達成龐大計算效能的需求。學員也從課程中釐清了 CPU 與 GPU 在算力上的差異,了解到 GPU 憑藉其數千個核心,能進行高效的平行運算,成為加速深度學習模型訓練的關鍵,並解開了以往認為電腦運算僅限於顯示卡進行的誤解。
下午的課程則轉向更具實務性的技能介紹,包括 SCC、Linux 系統、HPC 及 AI 介紹,並透過助教的指導進行了模擬實際訓練程式的實務技能操作。非資訊工程背景的學員表示,即使是「門外漢」也聽得如癡如醉,對 HPCAI 的四大關鍵(Large training dataset, more complex model, more train iterations, more tuning parameters)留下了深刻印象。課程也探討了摩爾定律與 CPU 尚未達到現今 GPU 運算目標的關係,並強調了 AI 的核心要素是 model(模型)、computing(運算)和 data(資料),三者環環相扣、缺一不可。整體而言,學員透過此次課程不僅拓展了對 AI 技術深度的視野,理解了資料平行與模型平行在大型模型運作中的必要性,還認識了資訊工程系與電機工程系之間的相似與差異性,並對未來朝向 AI、系統整合與計算架構領域的學習產生了更強烈的動機。
上午的課程主要針對人工智慧與高效能計算(HPC)的關聯性進行了基礎知識介紹。學員認識到 AI 涵蓋了機器學習(ML)與深度學習(DL),而 HPC 則是用於解決重大問題、具有極高計算能力的系統。講師詳細解釋了支撐大型 AI 模型運作的關鍵,在於計算架構與系統設計**,特別是平行計算、GPU 架構與異質運算的重要性。課程中亦提及了如何使用 HPL benchmark 來評量超級電腦的效能,並說明了超級電腦是由多台電腦組成以達成龐大計算效能的需求。學員也從課程中釐清了 CPU 與 GPU 在算力上的差異,了解到 GPU 憑藉其數千個核心,能進行高效的平行運算,成為加速深度學習模型訓練的關鍵,並解開了以往認為電腦運算僅限於顯示卡進行的誤解。
下午的課程則轉向更具實務性的技能介紹,包括 SCC、Linux 系統、HPC 及 AI 介紹,並透過助教的指導進行了模擬實際訓練程式的實務技能操作。非資訊工程背景的學員表示,即使是「門外漢」也聽得如癡如醉,對 HPCAI 的四大關鍵(Large training dataset, more complex model, more train iterations, more tuning parameters)留下了深刻印象。課程也探討了摩爾定律與 CPU 尚未達到現今 GPU 運算目標的關係,並強調了 AI 的核心要素是 model(模型)、computing(運算)和 data(資料),三者環環相扣、缺一不可。整體而言,學員透過此次課程不僅拓展了對 AI 技術深度的視野,理解了資料平行與模型平行在大型模型運作中的必要性,還認識了資訊工程系與電機工程系之間的相似與差異性,並對未來朝向 AI、系統整合與計算架構領域的學習產生了更強烈的動機。