欧美在线专区-欧美在线伊人-欧美在线一区二区三区欧美-欧美在线一区二区三区-pornodoxxx中国妞-pornodoldoo欧美另类

輝達 GH200 登場,黃仁勳:AI 模型執(zhí)行成本將大降



為抵禦超微(AMD)、輝達黃仁Google 及亞馬遜(Amazon.com)在人工智慧(AI)硬體領域的登場大降競爭,輝達(Nvidia Corp.)新推了專門用來執(zhí)行 AI 模型的勳A型執(zhí)行成全新晶片,並表示執(zhí)行大型語言模型(LLMs)的本將成本將「顯著降低」。

輝達 GH200 登場,黃仁勳:AI 模型執(zhí)行成本將大降

CNBC、輝達黃仁MarketWatch等外電報導,登場大降輝達執(zhí)行長黃仁勳(Jensen Huang)8日在2023年繪圖盛會「SIGGRAPH」(Special Interest Group on Computer Graphics and Interactive Techniques)發(fā)表次世代超級晶片「DGX GH200 Grace Hopper Superchip」,勳A型執(zhí)行成主要應用於大型記憶體生成式AI模型,本將例如OpenAI的輝達黃仁AI聊天機器人「ChatGPT」。

GH200的登場大降Hopper繪圖處理器(GPU)與輝達目前最高階AI晶片「H100」相同,但結合72核心的勳A型執(zhí)行成ARM架構Grace中央處理器(CPU),並搭配141 GB HBM3記憶體及每秒5 TB頻寬。本將另外,輝達黃仁NVLink-dual GH200系統(tǒng)內(nèi)建兩顆GH200,登場大降可將容量擴充3.5倍、勳A型執(zhí)行成頻寬增加三倍。

黃仁勳8日表示,這款升級過後的處理器專門應用於全世界最大資料中心的水平式擴充(scale-out)作業(yè)。

GH200預定2024年第二季上市,但輝達並未說明定價。黃仁勳僅指出,GH200可讓大型語言模型的推論成本顯著下降。

AI模型的工作過程可分為兩部分:訓練與推論(inference)。

首先,AI模型會以大量資料訓練,過程可能花上數(shù)月,有時需要上千顆GPU,例如輝達的H100及A100晶片。之後,AI模型將被軟體用來預測或產(chǎn)生內(nèi)容,這個過程稱做推論。如同訓練,推論過程相當昂貴,軟體每次產(chǎn)生文字或內(nèi)容都需要許多算力。然而,AI模型只有在更新時才需要訓練,推論卻會持續(xù)不斷發(fā)生。

輝達副總裁Ian Buck 8日在電話會議表示,最新的GH200專為推論設計,因為這個程序需要更多記憶體容量,可讓更大型的AI模型置入單一系統(tǒng)。

Buck指出,記憶體容量加大,可讓AI模型常駐單一GPU,執(zhí)行時不再需要多個系統(tǒng)或多顆GPU來配合。

輝達8日股價終場下跌1.66%、收446.64美元;盤中一度在新產(chǎn)品發(fā)表後下挫最多3%。

(本文由 MoneyDJ新聞 授權轉載;首圖來源:輝達)

Popular articles

主站蜘蛛池模板: 野花社区在线观看www| 久久久久久91| 国产美女mm131爽爽爽毛片| 蜜柚视频网在线观看免费版| 日韩制服丝袜电影| 久久久久久福利| 国产高清日韩| 色老头综合免费视频| 521a成v视频网站在线入口| 韩日一级毛片| 男人j进入女人j内部免费网站| 性久久久久久久| 久久国产加勒比精品无码| 亚洲国产成人久久一区二区三区| 女人扒开| 天天看片天天干| 欧美成人精品第一区二区三区| 亚洲狠狠婷婷综合久久久久| 3d玉蒲团之极乐宝鉴| 欧美乱xxxxxxxxx| 狠狠色噜噜狠狠狠狠色吗综合| 18男同少爷ktv飞机视频| 日本天堂视频在线观看| 超级色的网站观看在线| 直接观看黄网站免费视频| 免费日b视频| 欧美日产国产亚洲综合图区一| 中文字幕在线视频在线看 | 亚洲区小说区激情区图片区| 日本乱子伦xxxx| avtt在线| 免费观看男人免费桶女人视频| 韩国三级hd中文字幕| 波多野结衣免费观看视频| a级毛片免费完整视频| 波多野结衣护士无删减| 久久99国产精品久久99果冻传媒| 日韩不卡在线播放| 调教家政妇第38话无删减| 3p视频在线| 又爽又刺激的视频|