快訊

    燒腦春節台股開盤臨季線保衛戰! 新春特賣撿便宜、腳底抹油閃人抉擇難

    2025-02-03 00:30 / 作者 陳俐妏
    燒腦春節台股開紅盤挑戰大! 投資人新春特賣撿便宜、腳底抹油閃人抉擇難。資料照
    春節國際消息不斷,DeepSeek 震撼AI股,川普簽命令,正式對中國、墨西哥、加拿大徵關稅。台股今天開紅盤,恐面臨季線保衛戰,投資人是要新春大特賣撿便宜、還是腳底抹油閃人?前外資半導體分析師、騰旭投資長程正樺點出市場結構變化的三大觀察點:高階顯卡即可佈建AI、硬體要求不高,以及輝達(NVIDIA )關鍵優勢是否還再。

    程正樺指出,這幾天是一次很燒腦的過年假期,感覺比平常還要認真研讀料甚至大年初一晚上還有中國券商辦專家論壇,這個市場實在太捲。花了這些精神做功課,就是要研究一下開年後的投資動作,究竟是新春大特賣趕快撿便宜、還是苗頭不太對腳底要抹油?很遺憾的,這幾天研究下來,個人目前對硬體的看法越來越偏向後者,但相關的AI應用卻可能加速發展。

    程正樺指出,DeepSeek的論文重點以及它在演算法上的突破,網路上已經有很多人分享,就不再贅述;直接講幾個觀察到的重點。
    1. 還記得Apple為了推銷Apple Intelligence,將iPhone 全面升級到8GB以上嗎?這僅僅是為了跑一個3B 參數的小模型而已。 現在,有人成功用一張NVIDIA RTX 6000 (48GB VRAM) 就可以跑動 DS 671bn 參數的大模型,而且這個模型還開源可以直接下載。

    這代表什麼意思?以後企業或個人要佈建AI,可能買一台具有高階顯卡的電腦就做的到。 不用每個月花200USD訂閱OpenAI、不用CSP租賃昂貴的AI server 和網路,在地端佈署AI 變得簡單和便宜許多。這兩天已經有看到朋友的公司開始研究把AI模型的佈建轉為在地端執行的可能性。

    2 短短幾天,可以看到微軟、AWS、NVIDIA 都開始提供DS R1 模型的服務。由於對硬體的要求的確不高,百萬token 輸出的價格只要2.19美元,作為對比OpenAI的輸出價格爲60美元/百萬Token,價差接近30倍。

    NVIDIA 官方也有描述,在單個NVIDIA HGX H200系統上,完整版DeepSeek-R1 671B的處理速度可達3,872 Token/秒。僅需一個系統就可以完整運作DS R1 大模型。就算企業依然需要利用雲端來佈建AI,需要的系統和價格也比之前簡化許多。

    3 NVIDIA關鍵優勢不再? 這兩年來,NV產品在大模型與高運算力方面的優勢,包括記憶體的使用、NVlink多卡串聯、Scale-up/out 的領先等等;在探討下一代Rubin或更後面的產品,討論的是一個機櫃做到NVL 144/288 、如何處理這麼大功耗的產品、系統架構該如何演進等等;重點不僅僅是「教主產品做的比別人好」,而是「不用教主的產品就根本無法訓練和使用這些大的模型」。

    但忽然間,這個必要性被打了一個大問號。進而延伸的問題:記憶體HBM、台積電CoWoS等等原本為了在空間體積功耗等等限制下塞進最多算力的技術,是不是仍然必要?還是有許多便宜的替代品可以用?

    程正樺說明,很多人喜歡把政治問題扯進來。但其實,探討DS本身到底用了多少卡有意義嗎?沒有,重點是現在實際佈署R1的硬體需求就是極低;其次,它有沒有抄OpenAI?應該有吧。不過OpenAI 的 GPTBoT 在網路上不顧版權的到處亂抓資料也不是一兩天的事情了,抓完還不開源。對投資而言,整個市場結構的變化,比這些枝微末節的小事重要多了。
    陳俐妏 收藏文章

    本網站使用Cookie以便為您提供更優質的使用體驗,若您點擊下方“同意”或繼續瀏覽本網站,即表示您同意我們的Cookie政策,欲瞭解更多資訊請見