最強AI芯片升級！英偉達H200登場：推理速度翻倍，明年二季度交付

　　AI芯片H100的熱度還沒過，芯片巨頭英偉達(Nasdaq：NVDA)又打出一張新王牌——H100的升級版。

　　當?shù)貢r間11月13日，英偉達正式宣布，在目前最強AI(人工智能)芯片H100的基礎上進行一次大升級，發(fā)布新一代H200芯片。H200擁有141GB的內(nèi)存、4.8TB/秒的帶寬，并將與H100相互兼容，在推理速度上幾乎達到了H100的兩倍。H200預計將于明年二季度開始交付，英偉達尚未公布其價格。

　　英偉達還透露，下一代Blackwell B100 GPU也將在2024年推出，性能已經(jīng)“望不到頭”。

　　英偉達預計在2024年推出H200和B100兩款芯片。來源：英偉達官網(wǎng)　　與作為前輩的A100和H100相比，H200最大的變化就是內(nèi)存。搭載“世界上最快的內(nèi)存”HBM3e技術的H200在性能上得到了直接提升，141GB的內(nèi)存幾乎是A100和H100最高80GB內(nèi)存的2倍，4.8TB每秒的帶寬則達到了A100的2.4倍，也顯著高于H100 3.35TB每秒的帶寬。

　　英偉達表示，根據(jù)使用Meta的70B大模型Llama 2進行的測試，H200的輸出速度幾乎是H100的兩倍?；谂cH100相同的Hopper架構，H200將具有H100的一切功能，例如可以用來加速基于Transformer架構搭建的深度學習模型的Transformer Engine功能。

　　根據(jù)官方發(fā)布的圖片，H200在大模型Llama 2、GPT-3.5的輸出速度上分別是H100的1.9倍和1.6倍，在高性能計算HPC方面的速度更是達到了雙核x86 CPU的110倍。

來源：英偉達官網(wǎng)/侵刪

　　英偉達加速計算總經(jīng)理兼副總裁伊恩·巴克 (Ian Buck)表示：“要利用生成式AI和高性能計算HPC來構建智能，需要利用大容量、超高速的GPU內(nèi)存來高速快速地處理大量數(shù)據(jù)。英偉達H200將為業(yè)界領先的端到端AI超級計算平臺進一步加速，以解決一些世界上最重要的挑戰(zhàn)。”

　　從今年年初起，英偉達股價已經(jīng)上漲了超230%，截至11月14日，公司總市值達到1.2萬億美元。當天，英偉達股價在H200發(fā)布后一度漲超490美元，全日收于486.2美元，漲0.59%，盤后漲0.3%，股價實現(xiàn)九連漲。

　　美國知名經(jīng)濟評論員吉姆·克雷默(Jim Cramer)表示，英偉達最新的高端芯片可能會為其股價提供推動力，幫助其在生成式AI熱潮中進一步上漲。

　　此前，根據(jù)瑞杰金融(Raymond James)統(tǒng)計的數(shù)據(jù)，H100芯片的價格已經(jīng)到達了25000美元到40000美元之間，而一個AI訓練過程需要數(shù)千個這樣的芯片協(xié)同工作。在當下的AI熱潮中，這也使得H100成為了硅谷最搶手的“硬通貨”。

　　科技網(wǎng)站The Verge表示，最關鍵的問題在于英偉達能否為市場提供足夠的H200，或者它們是否會像H100一樣在供應量上受到限制。而對于這點，英偉達并沒有給出明確的答案，只表示公司正在與“全球系統(tǒng)制造商和云服務提供商”合作來供應這些芯片，亞馬遜、谷歌、微軟和甲骨文等云服務商將是明年二季度首批使用H200的公司之一。

　　另外，英偉達競爭對手AMD已經(jīng)在英偉達之前搶先推出了最新AI芯片MI300X，高達192GB的HBM3內(nèi)存，5.2TB/秒帶寬。此前，AMD表示，公司正在今年第三季度向客戶提供樣品，產(chǎn)量將在第四季增加。預計AMD將在北京時間12月7日凌晨舉辦的“Advancing AI”特別活動上正式發(fā)布MI300X GPU。

　　值得一提的是，此前有消息稱，英偉達已開發(fā)出針對中國市場的最新改良版系列芯片——HGX H20、L20 PCle和L2 PCle。知情人士稱這三款芯片由H100改良而來，英偉達最快或?qū)⒂诒驹?6號之后公布。澎湃新聞記者采訪了多位產(chǎn)業(yè)鏈人士，均證實英偉達改良版芯片屬實。英偉達官方尚未對此作出評論。

　　今年10月17日， 美國商務部工業(yè)和安全局(BIS)發(fā)布了針對芯片的出口管制新規(guī)，尤其是對高算力的AI芯片進行了更嚴格的管控。其中一個很重要的新規(guī)定就是調(diào)整了先進計算芯片受限的標準，設置了新的“性能密度閾值”來作為參數(shù)。

　　10月31日，中國貿(mào)促會新聞發(fā)言人張鑫表示，美方新發(fā)布的對華半導體出口管制規(guī)則，進一步加嚴了人工智能相關芯片、半導體制造設備對華出口的限制，并將多家中國實體列入出口管制“實體清單”。美國這些措施嚴重違反了市場經(jīng)濟原則和國際經(jīng)貿(mào)規(guī)則，加劇了全球半導體供應鏈撕裂與碎片化風險。美國自2022年下半年開始實施的對華芯片出口禁令正在深刻改變?nèi)蚬┬?，造?023年芯片供應失衡，影響了世界芯片產(chǎn)業(yè)格局，損害了包括中國企業(yè)在內(nèi)的各國企業(yè)的利益。

　　英偉達將于美國時間11月21日盤后發(fā)布2023財年第三財季財報。根據(jù)美國投資研究公司Zacks Investment Research的數(shù)據(jù)，預計調(diào)整后的每股收益(EPS)將達到3.01美元，去年同期為0.34美元。