從 ChatGPT 發(fā)布至今，已經(jīng)有半年之久，國內(nèi)各大廠商都在如火如荼地訓(xùn)練著各自的大模型。在大模型的開源世界里，也紛紛涌現(xiàn)出各種各樣的大模型，效果卻不盡相同。據(jù)中信所等機(jī)構(gòu)的報告，截至2023年5月，國內(nèi)已發(fā)布79個大模型。

GPT大模型正逐漸成為新一代的智能化基礎(chǔ)設(shè)施，許多人將其類比 Windows、iOS，但其真正帶來的，是一個全新的智能應(yīng)用生態(tài)。這一點(diǎn)，我們從 OpenAI 將發(fā)布“App Store”便可見端倪。OpenAI 產(chǎn)品和合作副總裁 Peter Welinder 這樣表示：“大部分（AI 生態(tài)）的價值會在不同應(yīng)用領(lǐng)域的應(yīng)用層中產(chǎn)生，這也是 OpenAI 的策略?！?/p>

未來，不僅是個人開發(fā)者，更多的企業(yè)、個人都將能夠利用大模型進(jìn)行智能應(yīng)用的構(gòu)建。具備技術(shù)能力的開發(fā)者或企業(yè)可以自己訓(xùn)練或微調(diào)模型，而還將有更多的個人及企業(yè)使用 MaaS（模型即服務(wù)）所提供的 API 及一站式服務(wù)來完成。

(相關(guān)資料圖)

如何使用大模型構(gòu)建智能應(yīng)用？

舉個例子，我是一個 SaaS 服務(wù)的開發(fā)者，對客戶提供著我的 SaaS 服務(wù)，關(guān)于 SaaS 服務(wù)有很多介紹文檔以及使用文檔。為了讓客戶能夠更友好、更快速地了解 SaaS 服務(wù)的內(nèi)容，此時我想使用大模型來構(gòu)建一個智能助理，客戶通過聊天的方式，就能快速地進(jìn)行深入了解。

在構(gòu)建這個智能助理時，我可以將現(xiàn)有的文檔全部都給到大模型，客戶提出問題，大模型經(jīng)過推理返回答案。在這個流程中，存在一些問題，當(dāng)前大模型都有 Token 數(shù)量限制，如 GPT-4-32K 模型最大支持 32768 個 Token，如文檔內(nèi)容過多，便無法處理，并且隨著使用到的 Token 數(shù)量逐漸接近最大限制時，其推理速度及準(zhǔn)確性也會出現(xiàn)不同程度的下降。

當(dāng)前，我們可以看到絕大部分開發(fā)者構(gòu)建智能應(yīng)用都是通過情境學(xué)習(xí)（In-context Learning）的模式去實(shí)現(xiàn)的。具體步驟如下：

1. 數(shù)據(jù)預(yù)處理，此步驟會處理的是自有知識庫數(shù)據(jù)（如上例中提到的各種文檔），將這些知識庫中的數(shù)據(jù)分解成大小相近的數(shù)據(jù)塊，然后通過 embedding 的模型將數(shù)據(jù)進(jìn)行轉(zhuǎn)化，并將轉(zhuǎn)換后的數(shù)據(jù)存儲在向量數(shù)據(jù)庫中去。

2. 構(gòu)建 Prompt，當(dāng)用戶進(jìn)行提問時，此時會通過查詢的 API 將向量數(shù)據(jù)庫中相似的內(nèi)容查詢出來，某些場景下，可能還需要根據(jù)一些模板去構(gòu)建 Prompt，也可能通過一些 API 去網(wǎng)絡(luò)上搜索最新的信息。將這些信息進(jìn)行拼接，構(gòu)建出一個更好的 Prompt。

3. 模型推理，從第二步中拿到的 Prompt ， 將之提交給 MaaS 服務(wù)或者是自己的 LLM 模型進(jìn)行推理，最終拿到相應(yīng)的結(jié)果。當(dāng)然，這些結(jié)果可以直接返回給用戶，也可能需要再進(jìn)行二次處理，變成一個指令或動作。

在這個基礎(chǔ)的智能應(yīng)用構(gòu)建模式中，還存在諸多問題，如模型的選擇、數(shù)據(jù)安全、AGI 基建等問題。全球各大云廠商都紛紛入局大模型的軍備競賽，為應(yīng)用開發(fā)企業(yè)提供各種各樣的服務(wù)。在這浪潮之下，火山引擎發(fā)布了火山方舟平臺，致力于解決眼下存在的問題，提供最佳解決方案。

選取趁手利器！火山方舟一站式實(shí)現(xiàn)

在構(gòu)建智能應(yīng)用時，模型是重中之重，如何選擇更高效和更具性價比模型是模型使用者最關(guān)注的問題之一。

就目前來看，一兩個超大的基座模型不可能搞定所有的通用需求，在一些垂直領(lǐng)域中，雖然大模型可以很好地工作，但其成本可能會很高。如果基于其特定領(lǐng)域數(shù)據(jù)，對模型進(jìn)行精調(diào)和壓縮，使之生成一個比它小 10 倍或小 100 倍的小模型，在特定任務(wù)上可能會表現(xiàn)得更好，大幅降低推理成本，具有極高的性價比。

在眾多模型之中，除了模型大小，它們可能還使用了不同的模型結(jié)構(gòu)。不同的模型結(jié)構(gòu)可能一些場景表現(xiàn)得更好，其它場景中可能會相對平庸一點(diǎn)。因此，模型使用者可能需要在不同的場景應(yīng)用不同的模型，以達(dá)到最佳的算法效果。

面對如此多的模型， 我們是否有一個答案，告訴我們，今天或者未來的一段時間內(nèi)，哪個模型最好？關(guān)于這個問題，火山引擎智能算法負(fù)責(zé)人吳迪表示，企業(yè)需要在不同的智能應(yīng)用場景，選擇最適合自己場景的大模型?！按竽Ｐ偷恼麄€社區(qū)以及技術(shù)都在不斷地變化，現(xiàn)階段我們甚至都無法預(yù)測到明年大模型的發(fā)展趨勢。我們需要和時間做朋友，跟著大模型時代的浪潮一起往前發(fā)展?！眳堑先缡钦f道。

火山引擎總裁譚待公布“火山方舟”首批大模型合作伙伴

為此，火山方舟實(shí)現(xiàn)了統(tǒng)一的工作流，對接多家模型提供商，讓開發(fā)者在不同場景下選擇最適合的模型。截止目前，已經(jīng)接入了百川智能、出門問問、復(fù)旦大學(xué)MOSS、IDEA研究院、瀾舟科技、MiniMax、智譜AI（以拼音首字母排序）等多家AI科技公司及科研院所的大模型，開發(fā)者可以通過統(tǒng)一的 API ，很方便地去選擇合適當(dāng)前業(yè)務(wù)的模型。據(jù)了解，火山方舟還將持續(xù)與模型提供方合作，上線更多更優(yōu)質(zhì)的模型，供大模型應(yīng)用企業(yè)選擇和使用。

當(dāng)然，直接選擇并使用對應(yīng)模型可以滿足多數(shù)需求，但對于有技術(shù)能力的企業(yè)，還會存在模型微調(diào)的需求，讓模型能夠更好地去滿足特定的需求場景，讓其優(yōu)于通用的大基座模型。為此，火山方舟也提供了便捷的工具鏈，賦能企業(yè)，讓企業(yè)能夠方便的在火山引擎提供的高性價比算力上，快速方便的進(jìn)行模型微調(diào)和訓(xùn)練。

火山方舟平臺在模型選擇及使用上，為開發(fā)者提供了一站式的解決方案，從體驗(yàn)到精調(diào)，再到上線以及后續(xù)的監(jiān)控與運(yùn)維，都提供有豐富的工具鏈供企業(yè)客戶使用。

剛提到的用于精調(diào)模型的數(shù)據(jù)集、數(shù)據(jù)預(yù)處理中使用到的企業(yè)知識庫以及在調(diào)用模型時的查詢信息，隨著企業(yè)在細(xì)分領(lǐng)域中持續(xù)發(fā)展和積累，它們成為企業(yè)的重要資產(chǎn)。據(jù)了解，為客戶保護(hù)這些數(shù)據(jù)資產(chǎn)，也是火山方舟平臺致力要解決的問題。

解決大模型最關(guān)鍵的數(shù)據(jù)安全問題

在今年 4 月份，三星員工在使用 ChatGPT 處理工作時，無意間泄露了公司的絕密數(shù)據(jù)，這是三星引入 ChatGPT 后引起第三起數(shù)據(jù)泄漏的問題。 可見在大模型興起的初期，各個方面安全配套設(shè)施都還不夠完善。

數(shù)據(jù)的安全問題深深觸動著模型使用方的神經(jīng)，對于很多有開發(fā)能力的企業(yè)，可以通過自研大模型的方式，自產(chǎn)去自銷，從而避免數(shù)據(jù)泄漏的問題。大模型與之前的那些深度學(xué)習(xí)模型不一樣，當(dāng)前的訓(xùn)練門檻已經(jīng)被提到一個相當(dāng)高的水平，更多的開發(fā)者或企業(yè)并不具備相應(yīng)的開發(fā)能力，一定會使用外部廠商提供的模型服務(wù)去實(shí)現(xiàn)自己的業(yè)務(wù)需求。因此要讓這些企業(yè)放心使用 MaaS 服務(wù)，解決安全互信問題，是模型提供方需要解決首要問題。而對于模型提供者來說，模型的安全也至關(guān)重要，也不希望自己投入海量資源訓(xùn)練的模型被拷貝走了。

在這之中，信任問題至關(guān)重要，它將深深地影響大模型應(yīng)用市場的格局?；鹕椒街圩鳛槟Ｐ褪褂谜吲c模型提供者的橋梁，作為一個中立的第三方，為解決安全互信的問題也付出了巨大的努力。

當(dāng)前為解決安全問題存在三種流派：安全沙箱和三方審計、 硬件支持、聯(lián)邦學(xué)習(xí)?；鹕椒街刍诨鹕揭娆F(xiàn)有的云基礎(chǔ)能力、探索軟硬件的安全方案，首創(chuàng)大模型“安全互信計算架構(gòu)”，以先進(jìn)的技術(shù)手段，解決多方互信的問題。

讓專業(yè)的人做專業(yè)的事，通過火山方舟，模型提供方不需要在關(guān)注模型安全的問題，將更多的資源投入到模型研發(fā)中去，做出更好更優(yōu)的模型。對于模型使用者，同樣不用擔(dān)心數(shù)據(jù)資產(chǎn)泄漏，將更多的資源放應(yīng)用開發(fā)及創(chuàng)新上。

大模型進(jìn)入千行百業(yè)！

大模型的能力將進(jìn)入千行百業(yè)。但在此過程中，模型本身僅為其中的一小部分，更為關(guān)鍵的是，大模型運(yùn)行所依賴的基礎(chǔ)設(shè)施，以及看不見的模型上下游之間的連接?；鹕椒街壑铝τ谘a(bǔ)全拼圖中不足的模塊，幫助模型上下游客戶解決問題。對于一個健康而蓬勃的大模型生態(tài)來說，用于模型推理和調(diào)優(yōu)的算力，在未來的某一時刻，必然會超過模型訓(xùn)練所使用的算力。

我們正處在大模型高速發(fā)展的窗口期，但同時也面臨著各種挑戰(zhàn)。而火山方舟則將火山引擎和字節(jié)多年積累的基礎(chǔ)能力對外輸出，助力大模型基建建設(shè)。同時，火山引擎完整的 ToB 服務(wù)體系和團(tuán)隊不僅能讓模型應(yīng)用開發(fā)企業(yè)一站式實(shí)現(xiàn)智能應(yīng)用的搭建與運(yùn)營，同時也幫助大模型服務(wù)商實(shí)現(xiàn)成功的商業(yè)閉環(huán)。

ChatGPT正在形成新一輪的生產(chǎn)力革命，業(yè)界高呼這是第四次工業(yè)革命的到來。將大模型的選取、使用、上下游都集中到一站式的平臺，火山方舟有望加速行業(yè)智能化升級。

一如火山引擎智能算法負(fù)責(zé)人吳迪所言：“火山引擎深信這波大模型不僅是一次風(fēng)潮，更是一個全新的技術(shù)時代的窗口。未來，大模型將滲透到千行百業(yè)，而火山方舟的使命便是去縮短這個時間軸，幫助第一增長曲線的創(chuàng)業(yè)者們獲得資金，加速模型研發(fā)，也幫助應(yīng)用開發(fā)企業(yè)更快地用到這些大模型，并把它用好，創(chuàng)造更大的價值?！?/p>

#七款國產(chǎn)大模型登陸火山方舟#

關(guān)鍵詞：