專家團｜宇婷：目前只To B，騰訊云為什么優(yōu)先發(fā)布行業(yè)大模型，而非大模型？

“我們認為必須有針對性的行業(yè)大模型，再加上企業(yè)自己的數(shù)據(jù)、精調(diào)，才能打造可需要和可應用的服務。”

“企業(yè)要的不是在一百個場景中，解決70-80%的問題。而是精準解決問題。”騰訊集團高級執(zhí)行副總裁、云與智慧產(chǎn)業(yè)事業(yè)群CEO湯道生在現(xiàn)場表達。

6月19日，騰訊云正式發(fā)布了行業(yè)大模型，盡管在發(fā)聲的速度上，晚于百度、阿里巴巴、訊飛、360等多家廠商。但騰訊云也有自己的獨特性，著重優(yōu)先發(fā)布了行業(yè)大模型，而非大模型，目前只TO B。

在一波又一波大模型發(fā)布會沖擊之后，用戶們已經(jīng)分不清楚不同獨角獸巨頭們發(fā)布的模型之間的區(qū)別到底是什么。另一方面，在具體的行業(yè)場景中，通用大模型不能滿足企業(yè)的很多需求，比如不懂得專業(yè)的行業(yè)術語，回答虛且籠統(tǒng)。

信息不夠及時，大家期待能力越來越強大的大模型，同時也在思考如何在布局大模型的同時，保護好企業(yè)的產(chǎn)權與隱私，降低企業(yè)的大模型使用成本。這是不可回避的現(xiàn)實問題。

特別是，在當前中國產(chǎn)業(yè)現(xiàn)狀下，面臨企業(yè)的深度共建，以及監(jiān)管政策，真正能夠解決行業(yè)和企業(yè)圍觀挑戰(zhàn)，仍有距離。

對于騰訊大模型，最值得關注的有兩個方向。‍‍‍

首先，如果是行業(yè)大模型，那么應當是有明顯的行業(yè)屬性，如何解決行業(yè)問題，例如新零售、新能源、金融、交通等細分行業(yè)問題？

其次，騰訊云或?qū)@云平臺、會議、客服、低代碼等領域級應用，騰訊大模型的應用場景會發(fā)生哪些改變？

在行業(yè)大模型標準體系方面，騰訊正在聯(lián)合中國信通院，共同構(gòu)建行業(yè)大模型的標準體系及能力架構(gòu)，包括1套ILMOps方法論、60多項能力建設指標。這個標準體系覆蓋多個行業(yè)，涵蓋模型行業(yè)能力、模型工程化性能、模型算力網(wǎng)絡、模型安全可靠等方面。

TI平臺MaaS解決方案，覆蓋十大行業(yè)，提供50個解決方案

騰訊云發(fā)布自身MaaS解決方案，覆蓋十大行業(yè)，提供50個解決方案。

騰訊云副總裁、騰訊云智能負責人、優(yōu)圖實驗室負責人吳運聲發(fā)表《騰訊云MaaS，打造一站式行業(yè)大模型精選商店》的主題演講，分享了騰訊云在行業(yè)大模型方面的技術方案，以及產(chǎn)業(yè)客戶實踐、行業(yè)大模型標準體系構(gòu)建的進展。

吳運聲在演講中詳細拆解了騰訊行業(yè)大模型特質(zhì)：騰訊云TI平臺內(nèi)置了多個高質(zhì)量行業(yè)大模型，涵蓋金融、傳媒、文旅、政務、工業(yè)等多個行業(yè)場景，同時開放支持客戶多模型訓練任務，滿足個性化需求。比如針對客服等場景中的“對話問答”、“相似問生成”等任務，有較好的優(yōu)化，使用時僅需少量訓練數(shù)據(jù)，便可達到較好的精調(diào)效果。

其次，TI-ONE平臺提供完善的大模型工具鏈，包括數(shù)據(jù)標注、訓練、評估、測試和部署等全套工具，同時具備強大的多機多卡訓練加速能力，客戶可快速在TI-ONE平臺上進行一站式的大模型精調(diào)。

其中，大模型訓練，算力是基礎。騰訊云在大模型算力方面擁有領先優(yōu)勢。早在今年4月，騰訊云便發(fā)布了面向大模型訓練的新一代HCC高性能計算集群，采用最新一代騰訊云星星海自研服務器，結(jié)合多層加速的高性能存儲系統(tǒng)，具備3.2Tbps業(yè)界最高互聯(lián)帶寬，算力性能提升3倍。

全新升級框架加速能力太極Angel，可以提供更優(yōu)的訓練和推理加速能力。在傳統(tǒng)CV、NLP算法模型的基礎上，新增了對大模型的訓練和推理加速能力，通過異步調(diào)度優(yōu)化、顯存優(yōu)化、計算優(yōu)化等方式，相比行業(yè)常用方案性能提升超過30%。

同時，支持更適合AI運算的向量數(shù)據(jù)庫，將幫助高效處理圖像、音頻和文本等非結(jié)構(gòu)化數(shù)據(jù)，支持日處理千億級的檢索，將為客戶模型訓練提供充沛動力。

在旅游場景中，針對性的行業(yè)數(shù)據(jù)訓練出來的行業(yè)大模型，客服機器人可以給出景點經(jīng)濟實惠的定制化推薦方案。

與共創(chuàng)客戶中央廣播電視總臺與騰訊的合作中，傳統(tǒng)數(shù)據(jù)標簽體系無法達標，重新構(gòu)建傳媒專屬的數(shù)據(jù)標簽體系，重新研發(fā)了數(shù)據(jù)權重引擎，讓數(shù)據(jù)顆粒度更細。在數(shù)據(jù)標簽支撐下，跨模態(tài)檢索，能夠快速剪輯搭配素材生成視頻。

在上海大學的案例，打通了數(shù)據(jù)古道，推行一網(wǎng)通辦。每天涉及到的數(shù)據(jù)，相當于重新建造一座上海大學的圖書館。

騰訊會議、騰訊企點、向量數(shù)據(jù)庫產(chǎn)品迭代‍

行業(yè)應用場景上，提高工作效率低。比如騰訊會議，覆蓋全流程場景的智能小助手，協(xié)助日程安排。會后還可以自動生成智能總結(jié)和摘要，基于智能錄制，幫助用戶高效回顧。

騰訊企點客服，可以結(jié)合客戶的需求進行訓練。

騰訊會議的AI助手功能，以及騰訊企點呈現(xiàn)出在此輪AIGC浪潮之后的改變。其中騰訊企點智能客服的效果與傳統(tǒng)智能客服產(chǎn)生了差異化的進化。

值得關注的是，這是騰訊企點這一款產(chǎn)品的第16年，它在AI大模型的加持之下，全新變身。

在大模型的訓練和使用過程中，需要大量異構(gòu)算力的支持，對網(wǎng)絡速度與穩(wěn)定性要求也很高，加上GPU服務器比一般服務器穩(wěn)定性更低一些，服務器的運維、問題的排查更頻繁，整體運維的難度與工作量會高很多。

例如，在訓練集群中，一旦網(wǎng)絡有波動，訓練的速度就會受到很大的影響；只要一臺服務器過熱宕機，整個集群都可能要停下來，然后訓練任務要重啟，這些事件會使得訓練時間大大增加，投入在大模型的成本也會飆升。因此，騰訊云所提供的穩(wěn)定計算、高速網(wǎng)絡與專業(yè)運維，可以為算法工程師大大減輕設備運維的壓力，讓他們把精力放在模型的構(gòu)建與算法的優(yōu)化上。

騰訊云也打造了面向模型訓練的新一代HCC（High-Performance Computing Cluster）高性能計算集群，搭載最新次代GPU，結(jié)合多層加速的高性能存儲系統(tǒng)，加上高帶寬、低延遲的網(wǎng)絡傳輸，整體性能比過去提升了3倍，獲得了很多客戶的高度認可，幾家AI獨角獸都與我們展開了合作。

在計算集群的“硬實力”之外，推出更適合AI運算的“軟能力”——向量數(shù)據(jù)庫，它能更高效地處理圖像、音頻和文本等非結(jié)構(gòu)化數(shù)據(jù)，支持單索引10億級規(guī)模，比單機插件式檢索規(guī)模提升10倍，數(shù)據(jù)接入AI的效率，也比傳統(tǒng)方案提升10倍。