日本亚洲欧洲色α,玖玖爱这里只有精品,狠狠干天天色

世界消息！逐浪AIGC丨AI大模型時代，火山引擎要做聚合平臺

2023-06-29 17:13:32 來源：21經濟網

21世紀經濟報道記者白楊北京報道

大模型浪潮撲面而來，幾乎所有企業都在思考如何迎接。經過半年的觀察和實踐，字節跳動旗下的ToB品牌火山引擎也找準了自己的定位。

6月28日，火山引擎正式發布大模型服務平臺“火山方舟”，旨在為企業客戶提供模型精調、評測、推理等MaaS（Model-as-a-Service）服務。

【資料圖】

火山引擎總裁譚待表示，對于中國的大模型發展，火山引擎已經有了幾個關鍵判斷：首先，未來的大模型市場將是一個百花齊放的多模型生態，在這個生態系統中，將同時并行存在幾個少數的超大規模的大模型、多個中等規模的大模型和更多個行業的垂直模型，“這是由安全信任、行業壁壘和成本因素共同決定的。”

其次，在未來，企業尤其是行業頭部企業，自身對于大模型的應用，將會是“1+N”的應用模式，即企業通過自研或者與三方模型服務商的深度合作，形成企業自身的1個主力模型，這個主力模型之外，在不同的場景中，企業還會同時應用N個外部模型。

聚合多方大模型

在此之前，已有多家云廠商相繼推出了MaaS服務，他們的思路大都一致，都是基于一個通用基礎大模型，為不同行業提供具有行業屬性的行業大模型。

而火山引擎另辟蹊徑，采用了一種聚合模式。據介紹，火山方舟已集成百川智能、出門問問、復旦大學MOSS、IDEA研究院、瀾舟科技、MiniMax、智譜AI等多家AI科技公司及科研院所的大模型。基于這種多模型架構，企業客戶在火山方舟上便可同步試用多個大模型，并選用更適合自身業務需要的模型組合。

譚待在接受21世紀經濟報道采訪時指出，火山引擎和其他廠商的理念可能不大一樣，“友商推出模型平臺，從模型到模型平臺以及各種體系都是自己做的，是很封閉的端到端，他們可能認為未來一個模型就夠了，但我們不是這樣想的。我們認為未來肯定不是一個模型，而是多模型，所以我們的平臺一定要支持多個模型。”

除了理念上的不同之外，譚待還提到，火山引擎能做多模型架構，有一個很重要的原因，是這些業界做比較好的大模型，本身大部分的訓練都是在火山引擎上。“所以我們已經跟這些大模型建立了很強的合作關系和信任感，他們也自然而然會把推理也放到火山引擎上。”

對于哪些大模型可以進入火山方舟，譚待稱，“我們希望火山方舟是一個精選的結果，所以希望那些確實是訓練完成，并且在合規等方面都做比較好的，已經達到可用形態的大模型才放到方舟平臺上。第一批公布的是7家，后面還會陸續接入更多大模型。”

當然，做聚合平臺，也意味著火山引擎要面臨更多風險和挑戰。譚待表示，企業使用大模型，最擔心的是數據泄露；如果將大模型私有化部署，企業將承擔更高的成本，模型生產方也會擔心知識資產安全。

據火山引擎智能算法負責人吳迪介紹，“火山方舟”已上線了基于安全沙箱的大模型安全互信計算方案，利用計算隔離、存儲隔離、網絡隔離、流量審計等方式，實現了模型的機密性、完整性和可用性保證，可適用于對訓練和推理延時要求較低的客戶。

此外，吳迪透露，“火山方舟”還在探索基于NVIDIA新一代硬件支持的可信計算環境、基于聯邦學習的數據資產分離等多種方式的安全互信計算方案，更全面地滿足大模型在不同業務場景的數據安全要求。

聚焦平臺而非模型

對于火山方舟平臺，外界還關心的一個問題是：如果字節跳動有了自己的大模型，火山方舟會如何平衡自研和第三方模型的關系？

對此，譚待向21世紀經濟報道記者表示，火山方舟會是個開放的平臺，字節內部其他團隊如果做好了模型，也會放到方舟平臺上對外提供，它在方舟上就是眾多模型中的一個。“最后選擇字節的模型還是其他模型，這是由客戶來做選擇的，而不需要火山引擎來做平衡。”

所以，在服務模型應用方的過程中，火山引擎提供的不是模型能力，而是幫助應用方更好使用模型的能力。按照譚待的說法，火山方舟為企業提供的是大模型使用的一站式工作臺，不僅包含了模型試用、評測、接入、精調等能力，也通過訓推一體、彈性調度、算子優化等能力，幫助應用企業全面進行成本優化。

據吳迪介紹，企業可以用統一的工作流對接多家大模型，對于復雜需求可設置高級參數、驗證集、測試集等功能，再通過自動化和人工評估直觀對比模型精調效果，在不同業務場景里還可靈活切換不同的模型，實現最具性價比的模型組合。

在其看來，訓練大模型很昂貴，但是從長期來看，模型的推理開銷會超過訓練開銷。效果和成本的矛盾永遠存在，降低推理成本會是大模型應用落地的重要因素，“一個經過良好精調的中小規格模型，在特定工作上的表現可能不亞于通用的、巨大的基座模型，而推理成本可以降低到原來的十分之一。”

因此，企業在火山方舟進行的自定義指標和評估數據的積累，也將成為企業在大模型時代寶貴的數據資產。另據吳迪透露，字節跳動內部已有十多個業務團隊在試用“火山方舟”，覆蓋文本和圖像生成、對話、代碼輔助、信息檢索、營銷創意、電商、辦公效率等領域。

吳迪表示，火山方舟希望在模型供應商和模型使用方之間，促成“研究-訓練-應用-變現-反哺研究”的正向循環。“對模型提供方來說，火山方舟能夠幫助大家以更低的成本觸達海量客戶，用更小的代價在ToB市場規模化；對模型使用者來說，則可以便捷地接觸到眾多高質量的基座模型，為不同場景選擇最合適的模型。”

但譚待也坦言，“每一次技術的大變革，都會帶來體驗創新的新機會，而火山方舟還在起步階段，工具鏈和下游應用插件需要持續完善。”接下來，火山方舟還將接入更多大模型，并逐步擴大邀測范圍，加速大模型在各行各業的應用落地。

標簽：