近日,阿里阿里云百煉大模型服務(wù)平臺(tái)宣布,云全其已在國內(nèi)率先推出針對(duì)Llama 3系列的支持限時(shí)免費(fèi)訓(xùn)練、部署及推理服務(wù)。練推理
這項(xiàng)服務(wù)意味著企業(yè)和開發(fā)者現(xiàn)在可以方便地在阿里云上基于Llama 3系列打造專屬的阿里大模型,無需擔(dān)心繁瑣的云全訓(xùn)練和部署流程。
Llama 3作為Meta推出的支持新一代開源大語言模型,其80億及700億參數(shù)版本均展現(xiàn)出了強(qiáng)大的練推理性能。然而,阿里對(duì)于特定語言或垂直領(lǐng)域的云全需求,通常需要對(duì)這些開源模型進(jìn)行進(jìn)一步的支持訓(xùn)練或微調(diào)。這一過程在過去可能較為復(fù)雜,練推理但現(xiàn)在,阿里阿里云百煉平臺(tái)提供的云全一鍵式解決方案讓這一切變得簡單。
阿里云百煉平臺(tái)不僅提供了針對(duì)Llama 3的支持一鍵訓(xùn)練、部署和推理方案,還限時(shí)免除了模型開發(fā)和調(diào)用的算力費(fèi)用,這無疑大大降低了企業(yè)和開發(fā)者的成本負(fù)擔(dān)。
開發(fā)者們只需在阿里云百煉模型廣場(chǎng)申請(qǐng)使用,審核通過后便可快速體驗(yàn)Llama 3的性能,并與其他模型進(jìn)行直觀比較。
對(duì)于希望直接利用Llama 3進(jìn)行推理應(yīng)用的用戶,百煉平臺(tái)提供了模型調(diào)試、prompt模版等功能,使得開發(fā)者能夠迅速基于Llama 3構(gòu)建自己的AI助手。
而對(duì)于那些希望進(jìn)行深度開發(fā)的企業(yè),百煉平臺(tái)則支持結(jié)合企業(yè)數(shù)據(jù)集,進(jìn)行一鍵式的全參訓(xùn)練或高效訓(xùn)練,同時(shí)提供RAG檢索增強(qiáng)、智能體打造等高級(jí)功能,以滿足更多樣化的應(yīng)用需求。
阿里云百煉平臺(tái)之所以能夠提供如此強(qiáng)大的服務(wù),離不開其背后強(qiáng)大的AI基礎(chǔ)設(shè)施能力。靈駿智算集群作為阿里云的基礎(chǔ)設(shè)施層,具備高達(dá)十萬卡GPU的擴(kuò)展性,為大規(guī)模模型的訓(xùn)練提供了堅(jiān)實(shí)的硬件基礎(chǔ)。
而在AI平臺(tái)層,人工智能平臺(tái)PAI則提供了高效靈活的調(diào)度能力,能夠顯著提升大模型的訓(xùn)練性能,并確保任務(wù)的穩(wěn)定運(yùn)行。
此外,在模型即服務(wù)層面,阿里云通過打造國內(nèi)最大規(guī)模的AI模型社區(qū)魔搭和模型服務(wù)平臺(tái)百煉,為企業(yè)和開發(fā)者提供了一站式的服務(wù)。
從模型選型、體驗(yàn)到再訓(xùn)練、部署、應(yīng)用、推理,阿里云都提供了全面的支持,使得企業(yè)和開發(fā)者能夠更加專注于模型的創(chuàng)新和應(yīng)用,而無需擔(dān)心技術(shù)實(shí)現(xiàn)的細(xì)節(jié)。