講座報告主題:我國算力的現狀與趨勢
專家姓名:鄭緯民
日期:2024-05-11 時間:10:30
地點:會議中心第一報告廳
主辦單位:計算機科學與通信工程學院
主講簡介:鄭緯民,清華大學計算機系教授,中國工程院院士。長期從事高性能計算機體系結構、并行算法和系統研究。提出可擴展的存儲系統結構及輕量并行的擴展機制,發(fā)展了存儲系統擴展性理論與方法。在國內率先研制并成功應用集群架構高性能計算機。在國產神威太湖之光上研制的極大規(guī)模天氣預報應用獲得ACM Gordon Bell獎。曾獲國家科技進步一等獎1項、二等獎2項、國家技術發(fā)明二等獎1 項,何梁何利科技進步獎,獲得首屆中國存儲終身成就獎。研究專長:高性能計算機體系結構、并行算法和系統研究。
主講內容簡介:算力是新質生產力。數字經濟發(fā)展水平與算力規(guī)模密切相關,數據的高效處理決定數字經濟高質量發(fā)展。算力已成為數字經濟發(fā)展發(fā)動機。報告首先介紹三大類算力:1.HPC算力,2.AI算力,3.數據中心算力。接著介紹能支持大模型訓練的兩種系統: 1.基于英偉達公司GPU的系統;2.基于國產AI芯片的系統。第一種系統的優(yōu)點是硬件性能好,編程生態(tài)好。缺點是人家不賣給中國,價錢漲了幾倍,一卡難求。第二種系統的狀況是國產的卡用戶不太喜歡用,其原因是國產卡的生態(tài)系統不太好。怎么辦?要改變國產卡的生態(tài)系統不好的局面,需要做好的10個軟件,它們是編程框架,并行加速,通信庫,算子庫,AI 編譯器,編程語言,調度器、內存分配、容錯系統和存儲系統。我們要大力開展基于國產系統的大模型基礎設施的研究工作。最后介紹算力的互聯與互通。
歡迎師生參加!