近日,阿里阿里云百煉大模型服務(wù)平臺宣布,云全其已在國內(nèi)率先推出針對Llama 3系列的支持限時免費訓(xùn)練、部署及推理服務(wù)。練推理
這項服務(wù)意味著企業(yè)和開發(fā)者現(xiàn)在可以方便地在阿里云上基于Llama 3系列打造專屬的阿里大模型,無需擔(dān)心繁瑣的云全訓(xùn)練和部署流程。
Llama 3作為Meta推出的支持新一代開源大語言模型,其80億及700億參數(shù)版本均展現(xiàn)出了強大的練推理性能。然而,阿里對于特定語言或垂直領(lǐng)域的云全需求,通常需要對這些開源模型進行進一步的支持訓(xùn)練或微調(diào)。這一過程在過去可能較為復(fù)雜,練推理但現(xiàn)在,阿里阿里云百煉平臺提供的云全一鍵式解決方案讓這一切變得簡單。
阿里云百煉平臺不僅提供了針對Llama 3的支持一鍵訓(xùn)練、部署和推理方案,還限時免除了模型開發(fā)和調(diào)用的算力費用,這無疑大大降低了企業(yè)和開發(fā)者的成本負擔(dān)。
開發(fā)者們只需在阿里云百煉模型廣場申請使用,審核通過后便可快速體驗Llama 3的性能,并與其他模型進行直觀比較。
對于希望直接利用Llama 3進行推理應(yīng)用的用戶,百煉平臺提供了模型調(diào)試、prompt模版等功能,使得開發(fā)者能夠迅速基于Llama 3構(gòu)建自己的AI助手。
而對于那些希望進行深度開發(fā)的企業(yè),百煉平臺則支持結(jié)合企業(yè)數(shù)據(jù)集,進行一鍵式的全參訓(xùn)練或高效訓(xùn)練,同時提供RAG檢索增強、智能體打造等高級功能,以滿足更多樣化的應(yīng)用需求。
阿里云百煉平臺之所以能夠提供如此強大的服務(wù),離不開其背后強大的AI基礎(chǔ)設(shè)施能力。靈駿智算集群作為阿里云的基礎(chǔ)設(shè)施層,具備高達十萬卡GPU的擴展性,為大規(guī)模模型的訓(xùn)練提供了堅實的硬件基礎(chǔ)。
而在AI平臺層,人工智能平臺PAI則提供了高效靈活的調(diào)度能力,能夠顯著提升大模型的訓(xùn)練性能,并確保任務(wù)的穩(wěn)定運行。
此外,在模型即服務(wù)層面,阿里云通過打造國內(nèi)最大規(guī)模的AI模型社區(qū)魔搭和模型服務(wù)平臺百煉,為企業(yè)和開發(fā)者提供了一站式的服務(wù)。
從模型選型、體驗到再訓(xùn)練、部署、應(yīng)用、推理,阿里云都提供了全面的支持,使得企業(yè)和開發(fā)者能夠更加專注于模型的創(chuàng)新和應(yīng)用,而無需擔(dān)心技術(shù)實現(xiàn)的細節(jié)。