OpenAI的類腦權力之爭才剛剛落幕,一場關鍵交易悄悄浮出了水面。重金
據外媒《連線》(Wired)報道,押注在 Sam Altman 擔任 OpenAI 的類腦首席執行官期間,OpenAI 與 Rain AI 簽訂了一份價值 5100 萬美元的重金意向書,承諾會在 Rain AI 的押注芯片上市后購買芯片。
Rain AI 是類腦一家 AI 芯片初創公司,旨在大幅降低 AI 算力的重金成本。通過研發一種模仿人腦的押注工作方式的 AI 芯片——NPU,從而為 OpenAI 和 Anthropic 等 AI 公司提供「低成本、類腦高能效的重金硬件」。
該公司稱,押注「相比傳統的類腦 GPU,NPU 將為 AI 開發者(如 OpenAI)提供潛在的重金 100 倍計算能力,并在訓練方面提供 10,押注000 倍的能效。」
鑒于,OpenAI 一直受困于算力短缺,也就不難理解,它會愿意花費大量資金,來確保自己的 AI 項目所需的芯片供應。
Rain AI 研發的芯片有什么特點呢?該公司又是如何顯露頭角的?這筆投資揭示了 Altman 和 OpenAI 在芯片領域怎樣的布局?
“類腦”AI芯片
Rain AI 的核心產品是基于神經擬態(Neuromorphic)技術的「類腦」AI 芯片——NPU。芯片旨在實現低耗、高效地處理信息,從而滿足 AI 任務的苛刻計算需求。
它模仿了人腦的結構和功能,類似于大腦中的神經連接,建立在了人工突觸相互連接的網絡上。這種架構允許 NPU 以并行和分布式的方式處理信息,使其非常適合 AI 應用中的「計算密集型任務」。
而且,Rain AI 率先采用了數字內存計算(D-IMC)模式,進一步提升了 AI 處理、數據移動和數據存儲的效率。
此外,Rain 還為數字內存計算磁貼和軟件棧,提供了知識產權(IP)許可機會,該 IP 是專門為要求超低延遲和高能效的設備上的 AI 工作負載而定制的,涵蓋了長距離以太網(Long Reach Ethernet, LRE) 的一系列計算用例,包括智能汽車、智能手表等。
針對自家產品,Rain 打出的 solgan 是「重新定義 AI 計算的極限」,并宣傳「我們的 AI 加速器在速度、功耗、面積、精度和成本之間實現了創紀錄的平衡」。
鑒于,Rain 所設計的「類腦」芯片(NPU)承諾具有高效和低耗的運行,這對于克服英偉達、AMD等公司制造的重型芯片相關的「瓶頸」至關重要。
Rain AI 的創始者之一,Gordon Wilson 更是在 LinkedIn 上直言,「NPU 芯片將定義新的 AI 芯片市場,并大幅顛覆現有市場。」
不過,值得注意的是,盡管 Rain AI 號稱自己相比于英偉達的 GPU 有更好的能效,但Rain 的初始芯片,其實是基于谷歌、高通和其他科技公司支持的傳統的 RISC-V開源架構,旨在用于遠離數據中心的所謂邊緣設備,如手機、無人機、汽車和機器人等。
但是,當前的大多數邊緣芯片設計,如智能手機采用的芯片,都專注于神經網絡的推理階段。而 Rain 的目標是提供一種芯片,既能用于模型和算法的訓練,又能用于之后的推理運行。
目前,Rain AI 已經推出首個 AI 平臺,可進行 AI 推理和訓練,還宣稱「類腦」芯片(NPU)將允許 AI 模型,根據周圍環境實時定制或微調。
對此,Sam Altman 還曾公開表示,「這種神經擬態方法能大幅降低 AI 開發成本,并有望為實現真正的 AGI 提供幫助。」
據悉,OpenAI 希望利用這些芯片來降低數據中心的成本,并將自己的模型部署在手機和手表等設備中,那么「類腦」芯片(NPU)更是無疑對 OpenAI 來說有著巨大的吸引力,盡管如此,這些也都只是猜測。目前,OpenAI 將如何使用 Rain 芯片還是不得而知。
與 OpenAI 聯系緊密
Rain AI 成立于 2017 年,旨在為為未來的 AI 構建「低成本」的計算平臺。
Rain AI 有三位聯合創始人,分別是 Jack Kendall、Gordon Wilson、Juan Claudio Nino,他們在佛羅里達大學大學結識,此外,還聘請了 OpenAI 的軟件工程師Scott Gray 擔任公司顧問。
目前,Rain AI 約有 40 名員工,包括 AI 算法開發和傳統芯片設計方面的專家。
有趣的是,Rain AI 的總部也位于舊金山,與 OpenAI 相距不到一英里。
公司成立的次年,Rain AI 就在種子輪融資中,獲得了 500 萬美元的融資,投資者包括知名的創業孵化器 Y Combinator。
彼時,Altman 正在擔任 Y Combinator 的 CEO,同時還以個人名義向 Rain AI 投資了 100 萬美元。一年后,OpenAI 通過了這份價值 5100 萬美元的芯片購買協約。
截至 2022 年 4 月,經歷了由沙特阿拉伯附屬基金 Prosperity7 Ventures 領投的價值 2500 萬美元的一輪融資,Rain 的總融資額達到 3300 萬美元,估值也達到了 9000 萬美元。
今年年初,該公司向潛在投資者「夸炫」其進展,表示預計本月就可以推出「測試」芯片,這將意味著芯片設計已經完成,可以開始制造。
Rain AI 還表示最早于明年 10 月可向客戶提供第一批芯片,甚至向投資者強調,自己已經與谷歌、甲骨文、Meta、微軟和亞馬遜等科技巨頭進行了高級談判,以銷售系統給它們。但對此,微軟拒絕置評,其他公司沒有回應置評請求。
簡而言之,Rain AI 仍處于開發階段,目前尚不清楚何時才能投入商用。盡管該公司的「類腦」芯片(NPU)技術前景廣闊,支持者也備受矚目,但它仍面臨著許多挑戰。
Open AI 的野心
不管 Altman 投資 Rain AI 這番舉動有沒有私心在里頭,芯片短缺確實是 OpenAI 面臨的一大難題。
事實上,一年前,ChatGPT 剛剛發布不到一周,Altman 就感覺到計算成本「慘不忍睹」。之后,更是不止一次公開抱怨 AI 芯片的「殘酷緊缺」和「令人瞠目」的成本。
今年 5 月份,Altman 更是無奈承認,「OpenAI 正在經歷嚴重的算力短缺,許多短期計劃都推遲了。」
眾所周知,OpenAI 利用其主要投資者微軟的強大云服務,但由于硬件限制,經常關閉 ChatGPT 的某些功能。
對此,Altman 表示,「AI 的進展速度可能取決于新的芯片設計和供應鏈。」畢竟在當下,算力就是一切。
事實上,Altman 本人很早之前就對芯片進行了投資布局。除了 Rain AI,2021 年前后他還參與投資了 Cerabras,就是芯片像盤子一樣大,需要兩只手捧著的那家 AI 公司。
像盤子一樣大的芯片 | 圖片來源:Cerabras 官網
今年初「硅仙人」Jim Keller 與「硅神童」Sam Zeloof 成立的 Atomic Semi(通過簡化和縮小半導體工廠和集成電路原型,快速制造價格合理的芯片),Altman 也有關注,OpenAI Startup Fund 還參與了投資。
此外,就在 Altman 被 OpenAI 解雇的前幾周,還有消息稱他正在試圖籌集數十億美元,創辦一個新的芯片公司。
項目的詳情還不得而知,只知道代號為「Tigris」,旨在與英偉達在 AI 芯片領域展開競爭。
據悉,為了「Tigris」項目,Altman 曾在中東籌集資金。地點的「巧合」,不禁讓人懷疑這個項目和 Rain 是否有什么關聯。
另外,Altman 還曾與包括芯片設計公司 Arm在內的半導體高管進行過討論,商討如何盡早設計出新的芯片,為 OpenAI 這樣的大語言模型公司降低成本。
而且,不止 Altman,OpenAI 也正在尋找更低成本造大模型的可能,從而擺脫對英偉達的依賴。
除了尋找像 Rain AI 這樣的芯片供應商,對外投資之外,OpenAI 前段時間也開始嘗試自研芯片,評估潛在收購目標,并招聘硬件相關崗位。
圖片來源:OpenAI 官網 前不久,OpenAI 任命了前谷歌 TPU 的負責人,Richard Ho 為硬件主管,還聘請了不少編譯器和內核方面的專家,并且正在招聘「數據中心設施設計專家」。
Richard Ho 將領導 OpenAI 的新部門,并且幫助優化合作伙伴的,數據中心網絡、機架和建筑。
但這些前瞻性的投資布局,還是很難解決眼前的 GPU 短缺的問題,目前,OpenAI 大規模使用的還是英偉達的芯片。
據觀察,OpenAI 正在動態的調整 ChatGPT 等產品的能力來節省算力。這也就不難理解,有網友最近發現 GPT-4 相比 GPT-3.5 更容易「偷懶」。
隨著大模型的出現,人們開始關注大型 AI 模型數據中心的耗電情況。Rain 和其他一些芯片初創公司,旨在重新配置數據處理方式,從而減少傳輸需求,降低功耗。
谷歌、微軟、AMD、英特爾、亞馬遜,以及 Cerabras、Sambanova,Rain 等初創公司相繼入局 AI 芯片未來,AI 算力供應的市場是否會有所變化?而 OpenAI 能否擺脫算力受制于人的局面?從芯片超長的周期來看,這些難題還將繼續存在相當長的一段時間。