英特爾在Intel Vision 2024大會中推出「Gaudi 3」人工智慧加速器,力求與輝達H100相抗衡。Intel提供
Intel Vision 2024大會於4月8日至4月9日在美國亞利桑那州鳳凰城登場,英特爾執行長基辛格(Pat Gelsinger)在大會主題演講中探討 AI 為企業帶來的具體成果,以及 AI 的未來展望。英特爾在 Vision 大會中推出 Gaudi 3 人工智慧加速器,與前代產品相比,性能顯著提升,可應用於 LLM大型語言模型,提升 AI 訓練和推理速度。
英特爾執行副總裁暨資料中心與AI事業部總經理Justin Hotard表示,在不斷發展的 AI 市場格局中,現今產品存在巨大差距;客戶和市場希望能增加選擇,企業針對可用性、可擴展性、效能、成本和能源效率等因素來挑選產品。英特爾Gaudi 3從生成式AI解決方案中脫穎而出,呈現出可信任的性價比和系統可擴展性。
英特爾資深副總裁暨網路與邊緣事業部總經理Sachin Katti對媒體說明,英特爾如何透過全新硬體和開源軟體平台,推動端到端解決方案、生態系深度合作與AI系統的晶圓代工產能,解鎖企業AI的創新策略。
Sachin Katti指出,現今全球企業都想知道,在數位化過程中如何利用AI人工智慧。預計到了2026年,約有80%企業將採用GenAI(生成式AI),同時間,也會有50%的邊緣運算發展將涉及機器學習。今年預估全球企業在生成式AI的支出約400億美元,到了2027年,這個數字將增加兩倍以上,成長到1,510億美元。
不過,截至目前為止,僅有10%企業推出了基於生成式AI的解決方案,多數企業在採用生成式AI的過程中遇到很多挑戰,而基礎設施則是產出大型語言模型的最大挑戰。
Sachin Katti指出,如果重新定義AI在企業中的變革,目前是AI助理(Co-Pilots)時代,接下來會變成AI代理人(Agents)時代,未來則是AI功能(Functions)時代。
Sachin Katti表示,英特爾宣布「Vision」願景策略,以解決企業在採用生成式AI時所面臨的眾多挑戰。這個策略具備可延展性,將透過開放式的生態系統來解決企業用AI,助企業部署AI邁向成功。而英特爾Gandi 3 AI加速器可滿足生成式AI解決方案,這是針對AI工作負載的邊緣運算平台,以及基於乙太網路的連結產品,目前英特爾有兩個具體產品將支援此策略。
英特爾副總裁暨資料中心與AI事業部資深總工程師Das Kamhout進一步說明,相較前代Gandi 2 AI採用7奈米製程,這一代Gaudi 3 AI加速器採用5奈米製程,AI運算能力提升2X以上,網路頻寬提升2倍,記憶體頻寬也提升了1.5倍;Gaudi 3 AI加速器預計今年第2季開始對OEM客戶出貨。Das Kamhout強調,若與輝達H100相較,Gaudi 3 AI訓練模型速度比H100快40%,推理速度也比H100快50%。
目前已預定採用Gaudi 3 AI加速器的業者包括Dell Technologies、HPE、Lenovo 和 Supermicro。Gaudi 3加速器並預計於2024年第3季全面上市。
Sachin Katti重申,AI PC時代即將來臨,2025年底,英特爾預計出貨1億顆AI加速器,在生產力、安全性和創造力提供新一代AI PC體驗,並與100家軟體開發商共同針對Core Ultra產品的300項AI功能進行強化,該款處理器已支援230種以上的消費和商業設計解決方案。他指出現在是企業將電腦更新成AI PC的最佳時機。
Sachin Katti強調,AI無所不在,且將大舉應用在邊緣運算領域。到了2030年,預估全球邊緣運算市場規格將達4450億美元。目前英特爾已在邊緣運算市場售出2億顆CPU。
Intel Vision 2024年度活動彙集來自各領域技術專家與企業主管共同討論交流,分享終端運算、邊緣、資料中心與雲端的最新趨勢與解決方案。