欧美在线专区-欧美在线伊人-欧美在线一区二区三区欧美-欧美在线一区二区三区-pornodoxxx中国妞-pornodoldoo欧美另类

輝達 GH200 登場,黃仁勳:AI 模型執(zhí)行成本將大降



為抵禦超微(AMD)、輝達黃仁Google 及亞馬遜(Amazon.com)在人工智慧(AI)硬體領域的登場大降競爭,輝達(Nvidia Corp.)新推了專門用來執(zhí)行 AI 模型的勳A型執(zhí)行成全新晶片,並表示執(zhí)行大型語言模型(LLMs)的本將成本將「顯著降低」。

輝達 GH200 登場,黃仁勳:AI 模型執(zhí)行成本將大降

CNBC、輝達黃仁MarketWatch等外電報導,登場大降輝達執(zhí)行長黃仁勳(Jensen Huang)8日在2023年繪圖盛會「SIGGRAPH」(Special Interest Group on Computer Graphics and Interactive Techniques)發(fā)表次世代超級晶片「DGX GH200 Grace Hopper Superchip」,勳A型執(zhí)行成主要應用於大型記憶體生成式AI模型,本將例如OpenAI的輝達黃仁AI聊天機器人「ChatGPT」。

GH200的登場大降Hopper繪圖處理器(GPU)與輝達目前最高階AI晶片「H100」相同,但結合72核心的勳A型執(zhí)行成ARM架構Grace中央處理器(CPU),並搭配141 GB HBM3記憶體及每秒5 TB頻寬。本將另外,輝達黃仁NVLink-dual GH200系統(tǒng)內(nèi)建兩顆GH200,登場大降可將容量擴充3.5倍、勳A型執(zhí)行成頻寬增加三倍。

黃仁勳8日表示,這款升級過後的處理器專門應用於全世界最大資料中心的水平式擴充(scale-out)作業(yè)。

GH200預定2024年第二季上市,但輝達並未說明定價。黃仁勳僅指出,GH200可讓大型語言模型的推論成本顯著下降。

AI模型的工作過程可分為兩部分:訓練與推論(inference)。

首先,AI模型會以大量資料訓練,過程可能花上數(shù)月,有時需要上千顆GPU,例如輝達的H100及A100晶片。之後,AI模型將被軟體用來預測或產(chǎn)生內(nèi)容,這個過程稱做推論。如同訓練,推論過程相當昂貴,軟體每次產(chǎn)生文字或內(nèi)容都需要許多算力。然而,AI模型只有在更新時才需要訓練,推論卻會持續(xù)不斷發(fā)生。

輝達副總裁Ian Buck 8日在電話會議表示,最新的GH200專為推論設計,因為這個程序需要更多記憶體容量,可讓更大型的AI模型置入單一系統(tǒng)。

Buck指出,記憶體容量加大,可讓AI模型常駐單一GPU,執(zhí)行時不再需要多個系統(tǒng)或多顆GPU來配合。

輝達8日股價終場下跌1.66%、收446.64美元;盤中一度在新產(chǎn)品發(fā)表後下挫最多3%。

(本文由 MoneyDJ新聞 授權轉載;首圖來源:輝達)

Popular articles

主站蜘蛛池模板: 国产综合精品| 欧美在线不卡| 尹人香蕉久久99天天拍欧美p7| 日韩电影毛片| 欧美videosdesexo肥婆| 日韩精品一区二区三区视频| 国语自产精品视频在线区| 香港一级毛片免费看| 免费观看黄页| 啊灬啊灬用力灬再用力岳| 动漫美女被免费网站在线视频| 中文字幕亚洲综合久久| 久久亚洲人成网站| 午夜精品久久久久久| 美女扒开尿眼让男人桶爽视频| 永久黄网站色视频免费观看 | 好紧我太爽了再快点视频| 日本tvvivodes人妖| 极品丝袜乱系列在线阅读| 美女扒开胸露出奶乳免费视频| 中文字幕在线播放第一页| 羞羞漫画小舞被黄漫免费| 黄页网站在线免费观看| 妞干网免费看| 欧美一级二级三级视频| 男生和女生一起差差在线观看| 国产视频一区二区在线播放| 精品视频一区二区三区在线观看| 麻豆国产精品va在线观看不卡| 久久久亚洲欧洲日产国码二区| 51神马午夜| 男爵夫人的调教| 亚洲精品国产综合久久一线| 国产日韩精品欧美一区喷水| 岛国在线播放v片免费| 中文字幕一区精品| 天天天天做夜夜夜做| 鲁啊鲁啊鲁在线视频播放| 久re这里只有精品最新地址| 中文字幕无码久久精品| 遭绝伦三个老头侵犯波多野结衣|