h1_key

ChatGPT已經從下游人工智能應用程序“流行”到上游芯片領域。除了將GPU等人工智能芯片推向高峰外，它還極大地推動了市場對新一代內存芯片HBM(高帶寬內存)的需求。據報道，自2023年初以來，三星和SK海力士的HBM訂單迅速上漲，價格也上漲。一些市場參與者透露，HBM3規(guī)格DRAM的價格最近上漲了5倍。這也給冬季的內存市場帶來了一絲春天的痕跡。

  ChatGPT爆紅提升HBM需求

  ChatGPT作為一種自然語言人工智能應用，不僅對芯片計算能力有很大的需求，而且對內存技術也有很高的需求。例如，自ChatGPT推出以來，高速數據傳輸速度的HBM內存芯片幾乎已成為ChatGPT的必要配置，市場需求激增。據報道，自2023年初以來，三星和SK海力士的HBM訂單迅速上漲，價格也上漲。

  一些市場參與者透露，英偉達已經將SK海力士的HBM3安裝在其高性能GPU H100上，H100已經開始提供ChatGPT服務器。最近，最新一代高帶寬內存HBM3的價格上漲了5倍。

  SK海力士HBM設計團隊項目負責人樸明宰寫道，HBM是一種高附加值DRAM產品，可實現高帶寬，適用于超級計算機、人工智能加速器等性能要求高的計算系統(tǒng)。隨著計算技術的發(fā)展，機器學習的應用越來越廣泛，機器學習的基礎是神經網絡模型，自20世紀80年代以來一直是研究的熱點。HBM作為最快的DRAM產品，在克服計算技術的局限性方面發(fā)揮著關鍵作用。

  此前，HBM雖然性能優(yōu)異，但與普通DRAM相比，其應用較少。這是因為HBM需要復雜的生產過程，平均價格至少是DRAM的三倍。然而，人工智能服務的擴張正在扭轉這種局面。據報道，已有2.5萬多張英偉達計算卡參加了深度學習培訓。未來，隨著對ChatGPT等生成人工智能需求的不斷增加，對HBM的需求也將急劇增加。三星內存副總裁Kim Jae-joon指出，基于自然語言技術的交互式人工智能應用的發(fā)展，如ChatGPT，有利于提高內存需求。高效、大量的計算能力和高容量的內存是人工智能學習和推論模型的基礎。

  存儲巨頭齊爭高性能市場 

  自去年以來，由于消費電子產品需求下降等因素，存儲行業(yè)已進入下行周期。SK海力士的年凈利潤降至2.4萬億韓元，同比下降75%。去年第三季度和第四季度，三星電子存儲業(yè)務的收入和營業(yè)利潤也同比下降。Trendforce集邦咨詢公司預計，2023年第一季度DRAM價格將繼續(xù)下跌。其中，PC和服務器DRAM的下降仍然接近20%。HBM的熱需求相當于一個“強心針”。在這種情況下，SK海力士、三星電子、美光等內存制造商表示，他們將致力于HBM的發(fā)展。企業(yè)之間的產品開發(fā)競爭也在升溫。

  2013年，SK海力士將TSV技術應用于DRAM，成功開發(fā)了第一代HBM芯片。此后，SK海力士推出了HBM2、HBM2E、HBM3數代產品。據報道，SK海力士正在開發(fā)HBM4，預計新一代產品將在高性能數據中心、超級計算機和人工智能領域得到更廣泛的應用。SK海力士首席財務官金友賢表示，該公司正在關注基于人工智能的新服務器替換存儲器需求的積極信號。該公司計劃繼續(xù)投資DDR5/LPDR5、HBM3等主要產品的量產和未來的高增長。

  雖然三星電子在HBM的發(fā)展上落后一步，但它也在尋找新的突破。據報道，三星電子正在開發(fā)新一代集成人工智能處理器存儲計算芯片HBM-PIM。北京大學信息科學技術學院微納電子系副教授葉樂表示，存儲計算芯片將人工智能引擎引入存儲庫，將處理操作轉移到HBM本身，有效增加數據傳輸帶寬，提高存儲處理速度。存儲計算技術正在產品化。目前，基于SRAM的存儲計算已進入產品化前夕。DRAM存儲計算適用于大計算力人工智能芯片，因此還需要解決一系列其他技術問題。

  上下游發(fā)力搶占先機

  與HBM相關的上下游企業(yè)也在努力抓住機遇。AMD為HBM的誕生和發(fā)展做出了巨大貢獻。AMD首先意識到DDR的局限性，并產生了開發(fā)堆疊內存的想法，然后與SK海力士合作開發(fā)了HBM，并在其Fury顯卡中使用了世界上第一個HBM。ISSCC2023年國際固態(tài)電路會議，AMD考慮在Instinct系列加速卡集成包裝HBM高帶寬內存，繼續(xù)堆疊DRAM內存，可以直接在集成內存中執(zhí)行一些關鍵算法核心，而不是CPU和獨立內存之間的往復通信，以提高人工智能處理的性能，降低功耗。

  英偉達也非常重視處理器和內存之間的協(xié)調，并一直要求SK海力士提供最新的HBM3內存芯片。據報道，已有2.5萬多張英偉達計算卡參加了深度學習培訓。如果所有互聯網公司都在搜索引擎中添加ChatGPT等機器人，對計算卡和相應服務器的需求將達到50萬元，這也將推動HBM的需求大幅增長。

  IP制造商也首先布局了HBM3。去年，Synopsys推出了第一個完整的HBM3IP解決方案，包括2.5D多芯片包裝系統(tǒng)的控制器PHY(物理芯片)和IP驗證。HBM3PHYIP基于5nm工藝，每個引腳率可達7200mbps，內存帶寬可提升至921GB/s。Rambus還推出了支持HBM3的內存接口子系統(tǒng)，包括完全集成的PHY和數字控制器，數據傳輸速率為8.4Gbps，可提供1TB/s以上的帶寬。

  RambusIP核產品營銷高級總監(jiān)FrankFero在接受采訪時指出，HBM仍處于相對較早的階段，未來還有很長的路要走?？梢灶A見，隨著越來越多的制造商在人工智能和機器學習領域的不斷努力，內存產品設計的復雜性迅速上升，對帶寬提出了更高的要求，寬帶需求的上升將繼續(xù)推動HBM的發(fā)展。