4月22日，騰訊宣布旗下協(xié)作SaaS產(chǎn)品已全面接入騰訊混元大模型，包括企業(yè)微信、騰訊會(huì)議、騰訊文檔、騰訊樂(lè)享、騰訊電子簽、騰訊問(wèn)卷、騰訊云AI代碼助手等。
去年9月推出的騰訊混元，上線之初就強(qiáng)調(diào)“實(shí)用性”，從最初有超50個(gè)騰訊產(chǎn)品接入至今，騰訊內(nèi)部已有超400個(gè)業(yè)務(wù)在內(nèi)測(cè)騰訊混元。此外，騰訊混元也在零售、教育、金融和醫(yī)療等行業(yè)落地應(yīng)用。
如今，隨著騰訊旗下協(xié)作SaaS產(chǎn)品全部基于騰訊混元實(shí)現(xiàn)智能化升級(jí)，也意味著騰訊混元的落地腳步進(jìn)一步提速。
不過(guò)從行業(yè)角度，大模型究竟如何落地并沒(méi)有明確方向，各個(gè)企業(yè)也都是摸著石頭過(guò)河。騰訊在產(chǎn)品優(yōu)化以及商業(yè)模式上的思考，或許能給行業(yè)提供借鑒。
模型升級(jí)為MoE架構(gòu)
此前，騰訊混元完成了架構(gòu)升級(jí)，從原先的Dense架構(gòu)升級(jí)為MoE（Mixture of Experts）架構(gòu)，并將模型擴(kuò)展至萬(wàn)億級(jí)參數(shù)規(guī)模。
騰訊混元模型應(yīng)用負(fù)責(zé)人張鋒向21世紀(jì)經(jīng)濟(jì)報(bào)道記者表示，相比原有架構(gòu)，MoE架構(gòu)有兩個(gè)優(yōu)勢(shì)：一是模型參數(shù)量更大，可吞吐更多tokens；二是實(shí)際激活量較小，可顯著降低訓(xùn)練推理成本。
據(jù)其介紹，去年10月，MoE架構(gòu)效果就已超過(guò)Dense架構(gòu)。同年11月，騰訊混元開始把MoE上線產(chǎn)品內(nèi)測(cè)。目前，騰訊混元已經(jīng)正式完成MoE架構(gòu)升級(jí)。
有技術(shù)人士向記者表示，MoE架構(gòu)是一種神經(jīng)網(wǎng)絡(luò)架構(gòu)，它是通過(guò)多個(gè)專家（Experts）模型來(lái)處理輸入數(shù)據(jù)的不同任務(wù)。
簡(jiǎn)單來(lái)說(shuō)，MoE架構(gòu)的核心邏輯就是將輸入數(shù)據(jù)分配給最適合處理該數(shù)據(jù)的專家。而且這種架構(gòu)允許模型通過(guò)增加專家的數(shù)量來(lái)擴(kuò)展，從而提高了模型處理特定任務(wù)的能力。
中信證券在一份研報(bào)中指出，隨著大模型體量增長(zhǎng)，多模態(tài)能力和推理效率成為業(yè)界競(jìng)爭(zhēng)新焦點(diǎn)。Dense架構(gòu)在處理圖像、視頻等非結(jié)構(gòu)化數(shù)據(jù)時(shí)效率較低，預(yù)計(jì)未來(lái)1~2年MoE等新型架構(gòu)將成為主流。
在架構(gòu)完成升級(jí)后，騰訊混元的能力也確實(shí)得到了提升。在今年3月份發(fā)布的財(cái)報(bào)中，騰訊提到，“在部署了MOE架構(gòu)等前沿技術(shù)后，我們的基礎(chǔ)模型混元在多輪對(duì)話、邏輯推理和數(shù)字推理領(lǐng)域表現(xiàn)出色，這些對(duì)大型語(yǔ)言模型來(lái)說(shuō)一直是個(gè)挑戰(zhàn)。”
而這些獲得提升的模型能力，也被直接應(yīng)用到了騰訊產(chǎn)品中。張鋒表示，騰訊業(yè)務(wù)使用混元模型，主要有兩種方式，一個(gè)是直接API調(diào)用，另外就是基于混元一站式平臺(tái)進(jìn)行精調(diào)。
目前，騰訊混元對(duì)外開放了不同尺寸的模型，以滿足不同業(yè)務(wù)的需要。騰訊樂(lè)享總經(jīng)理周芝芝表示，樂(lè)享在接入混元時(shí)，只有智能出題功能是基于混元進(jìn)行精調(diào)，剩下的很多功能，比如智能創(chuàng)作、智能提煉課程知識(shí)點(diǎn)、智能撰寫活動(dòng)方案等，都是用混元公開的API能力。
商業(yè)模式有待摸索
除了樂(lè)享，騰訊的其他協(xié)作SaaS產(chǎn)品也都推出了一些新功能。
比如騰訊電子簽提升了合同起草、審閱效率，并可以智能篩查風(fēng)險(xiǎn)；騰訊AI代碼助手向開發(fā)者提供了代碼補(bǔ)全、代碼診斷、單元測(cè)試等功能；騰訊會(huì)議推出AI小助手、智能錄制、實(shí)時(shí)字幕翻譯等功能；騰訊文檔則讓用戶可以通過(guò)一句話指令即可快速處理各種文檔。
在與記者交流時(shí)，這些產(chǎn)品的負(fù)責(zé)人都表示，他們?cè)陂_發(fā)相關(guān)功能時(shí)，并沒(méi)有硬靠AI，而是過(guò)去業(yè)務(wù)里本身存在的大量痛點(diǎn)，用原來(lái)的技術(shù)解決不了，現(xiàn)在用大模型技術(shù)進(jìn)行解決。
雖然業(yè)界都期望大模型原生產(chǎn)品的出現(xiàn)，但現(xiàn)階段，改造原有產(chǎn)品是大模型最可行的落地路徑。因?yàn)樵挟a(chǎn)品的需求是明確的，通過(guò)解決這些需求，能夠加速大模型技術(shù)的普及，進(jìn)而推動(dòng)大模型向更高階的智能進(jìn)化。
而在商業(yè)化方面，騰訊也沒(méi)有急于將大模型能力變現(xiàn)。周芝芝向21世紀(jì)經(jīng)濟(jì)報(bào)道記者表示，樂(lè)享的AI助手主要是依附在原有版本之上。“AI只是樂(lè)享能力的升級(jí)，所以AI助手的定價(jià)是基于原有版本做增值，以增購(gòu)項(xiàng)的方式來(lái)設(shè)計(jì)。”
比如現(xiàn)在樂(lè)享的收費(fèi)模式是license方式，即按照每人每年多少錢來(lái)向客戶收取費(fèi)用。針對(duì)AI功能，如果一些功能是全員使用的，那樂(lè)享就會(huì)按照一定價(jià)格在原有的費(fèi)用基礎(chǔ)上向客戶收取；如果一個(gè)功能不是全員使用，那這部分的收費(fèi)模式將是一個(gè)單獨(dú)模塊。
“但整體來(lái)說(shuō)，在樂(lè)享AI的產(chǎn)品建設(shè)進(jìn)程中，用戶體驗(yàn)優(yōu)先級(jí)大于收費(fèi)，當(dāng)前我們還是希望用戶先用起來(lái)。”周芝芝說(shuō)。
同樣地，騰訊會(huì)議的AI小助手等功能也是開放給付費(fèi)版本的用戶。騰訊會(huì)議云會(huì)議產(chǎn)品負(fù)責(zé)人朱瑩表示，“會(huì)議是一個(gè)多人協(xié)作的場(chǎng)景，為了讓用戶降低使用AI的門檻，騰訊會(huì)議在商業(yè)模式上也做了些設(shè)計(jì)。當(dāng)一場(chǎng)會(huì)議的主持人是付費(fèi)版本時(shí)，所有的參會(huì)成員在主持人允許的情況下，都可以嘗試使用AI小助手”。
與這些產(chǎn)品不同，騰訊云AI代碼助手的商業(yè)模式則更清晰。騰訊云開發(fā)者AI產(chǎn)品負(fù)責(zé)人丁寧向記者表示，AI代碼助手是一個(gè)插件形式的產(chǎn)品，所以它可以單獨(dú)售賣。而且在市場(chǎng)上，像GitHub Copilot已經(jīng)有幾百萬(wàn)的付費(fèi)用戶，是按license的方式收費(fèi)，騰訊AI代碼助手也會(huì)采用類似的定價(jià)方式。
眼下，大模型正處于能力提升與商業(yè)落地并行的階段。在模型能力上，繼文生文之后，文生圖片以及文生視頻等多模態(tài)能力將是大模型下階段發(fā)力的重點(diǎn)，而在商業(yè)落地方面，能否抓住用戶真正的痛點(diǎn)，不讓AI功能成為擺設(shè)，將是決定大模型應(yīng)用成敗的關(guān)鍵。