由上海財(cái)經(jīng)大學(xué)上海國(guó)際金融中心研究院、上海國(guó)際金融與經(jīng)濟(jì)研究院等主辦的第九屆（2023）金融科技國(guó)際會(huì)議于11月11日在上海舉辦，針對(duì)近年來(lái)金融科技取得了長(zhǎng)足的發(fā)展，尤其是在人工智能、大模型、區(qū)塊鏈等領(lǐng)域，這些技術(shù)的應(yīng)用為金融行業(yè)帶來(lái)了許多新的機(jī)遇和挑戰(zhàn)。為了搭建高水平的學(xué)術(shù)交流平臺(tái)，進(jìn)一步促進(jìn)金融科技領(lǐng)域的理論與實(shí)踐研究，特舉辦“2023數(shù)字技術(shù)創(chuàng)新促進(jìn)金融高質(zhì)量發(fā)展”會(huì)議，天云數(shù)據(jù)CEO在會(huì)上做《AIGC的知識(shí)生產(chǎn)引起的產(chǎn)業(yè)變革》分享，著重分析國(guó)對(duì)外大模型技術(shù)差異。
在近期OpenAI首屆開(kāi)發(fā)者大會(huì)上，OpenAI宣布了GPT-4、ChatGPT的年度最重磅更新，主要有三大方面：GPT-4 Turbo：支持128k上下文，相當(dāng)于300頁(yè)文檔，輸入價(jià)格大降2/3，速率限制翻倍，知識(shí)更新到2023年4月；開(kāi)放新模態(tài)API；GPT定制化服務(wù)。
我們知道，原本每個(gè)C端受眾都可以自己給ChatGPT喂文件，他的定位就是通用大模型。但從這次發(fā)布來(lái)看：
首先，ChatGPT從性質(zhì)已經(jīng)從通用大模型變成了專屬大模型，與此同時(shí)服務(wù)降價(jià)了。私域模型復(fù)雜度遠(yuǎn)高于通用模型，以行業(yè)通情，私域模型定價(jià)也會(huì)高于通用模型。那為什么ChatGPT從通用模型步入到私域模型，反而價(jià)位降低了呢？因?yàn)樗呀?jīng)從從訓(xùn)練階段走向服務(wù)階段（Training to Serving）了。
以大模型的整個(gè)服務(wù)流程來(lái)看，大模型只占其中一個(gè)環(huán)節(jié)。而且大模型已經(jīng)從Training to Serving了，成本走低可以主推服務(wù)了。
（天云數(shù)據(jù)大模型服務(wù)圖）
今天的大模型依靠是三架馬車并駕齊驅(qū)的，他們分別是預(yù)訓(xùn)練大模型、遷移學(xué)習(xí)和強(qiáng)化學(xué)習(xí)。預(yù)訓(xùn)練模型依靠強(qiáng)大的數(shù)據(jù)工程完成，模型即數(shù)據(jù)，數(shù)據(jù)即模型。遷移學(xué)習(xí)和強(qiáng)化學(xué)習(xí)是AI Infra技術(shù)工程架構(gòu)，依靠向量化數(shù)據(jù)庫(kù)實(shí)現(xiàn)私域數(shù)據(jù)的工程落地。強(qiáng)化學(xué)習(xí)需要繼承依賴有監(jiān)督學(xué)習(xí)的模型訓(xùn)練流水線，天云數(shù)據(jù)作為MLops廠商有強(qiáng)大優(yōu)勢(shì)。在大模型閉環(huán)服務(wù)上，天云數(shù)據(jù)提供的是成熟的產(chǎn)品化的服務(wù)。
其次，OpenAI推出GPT定制化服務(wù)，就是針對(duì)特定目的定制的ChatGPT版本。在大模型定制化服務(wù)上，天云數(shù)據(jù)就緒了全部的工程思路和邏輯。以媒體的閉環(huán)采訪為例，AI可以實(shí)現(xiàn)從文字中抽取事件的敘述邏輯和議題、從圖片中抽取議題和內(nèi)容，并通過(guò)大模型生成采訪提綱并通過(guò)數(shù)字分身完成內(nèi)容輸出。
對(duì)于開(kāi)放新模態(tài)API，這其實(shí)就是工程就緒整理能力。目前Hugging face上37萬(wàn)+Transformer開(kāi)源模型，各種多模態(tài)上的小模型都被打包在一個(gè)服務(wù)實(shí)體里頭，可以用 API 方式調(diào)用，只要有平臺(tái)和環(huán)境就可以就緒。
針對(duì)這次OpenAI新品“升級(jí)降價(jià)”，天云數(shù)據(jù)對(duì)比技術(shù)來(lái)看，可喜的是，國(guó)內(nèi)科技廠商并沒(méi)有離一線很遠(yuǎn)。
但是，我們也必須意識(shí)到差距在哪并客觀的看待差距——OpenAI做的是在線就緒服務(wù)，而我們是做了一個(gè)工具。
OpenAI的服務(wù)可以直接線上SaaS 服務(wù)的形式，而產(chǎn)品屬于工具，這就是落差。這落差核心體現(xiàn)在產(chǎn)業(yè)上，科技廠商得拿工具的能力去置換用戶的想法，然后用戶再買機(jī)器再投產(chǎn)服務(wù)，它至少是周級(jí)別的。要想聚合這三層能力，要么就是自己投資建設(shè)服務(wù)出來(lái)，要么就是國(guó)內(nèi)廠商生態(tài)抱團(tuán)，軟件廠商和硬件廠商一起攢服務(wù)。目前市場(chǎng)對(duì)國(guó)內(nèi)大模型普遍不看好，那是因?yàn)楝F(xiàn)在用戶還看不懂，用戶沒(méi)有剛性需求、提不出來(lái)精準(zhǔn)目標(biāo)，就看不到更好的服務(wù)樣板。大模型服務(wù)需要啟動(dòng)大的技術(shù)集群，這也是現(xiàn)在中國(guó)產(chǎn)線當(dāng)中缺市場(chǎng)要素的轉(zhuǎn)化。
與此同時(shí)，我們也要探尋前進(jìn)的方向：
方向1：實(shí)時(shí)數(shù)據(jù)供給是大模型的剛需
GPT-4 Turbo的知識(shí)庫(kù)截止時(shí)間為2023年4月，這依然是以月度為單位的數(shù)據(jù)。而特斯拉是合作Twitter，實(shí)現(xiàn)了實(shí)時(shí)數(shù)據(jù)。模型數(shù)據(jù)的實(shí)時(shí)性問(wèn)題，是后面流數(shù)據(jù)框架支撐大模型服務(wù)的剛性問(wèn)題，尤其在投產(chǎn)線上，1個(gè)小時(shí)的數(shù)據(jù)差異都會(huì)造成損失，更何況是月度數(shù)據(jù)。
方向2：復(fù)雜數(shù)據(jù)更具含金量，需要將數(shù)據(jù)庫(kù)與大模型鏈接
我們現(xiàn)在看到數(shù)據(jù)大都是常識(shí)性知識(shí)、科技文獻(xiàn)法規(guī)這些靜態(tài)知識(shí)。那含金量比較高的——實(shí)時(shí)交易數(shù)據(jù)，都在生產(chǎn)線的數(shù)據(jù)庫(kù)里。怎么去連接數(shù)據(jù)庫(kù)和大模型一定是大模型服務(wù)必須要考慮的技術(shù)。
因?yàn)榱鲃?dòng)的、高密度價(jià)值的數(shù)據(jù)信息都在企業(yè)的數(shù)據(jù)庫(kù)里，因此要解決三個(gè)突出矛盾：
第一個(gè)矛盾，是動(dòng)態(tài)模糊的意圖和精準(zhǔn)結(jié)構(gòu)化查詢語(yǔ)句SQL之間的這個(gè)矛盾；
第二個(gè)矛盾，是序列化的線性邏輯和錯(cuò)綜復(fù)雜的數(shù)據(jù)關(guān)系之間的矛盾，需要用數(shù)據(jù)編織、存算分離等手段來(lái)完成對(duì)大模型的供給；
第三個(gè)矛盾，大模型使數(shù)據(jù)服務(wù)下沉到個(gè)體，帶來(lái)大量遠(yuǎn)超于傳統(tǒng)數(shù)倉(cāng)數(shù)據(jù)可視化技術(shù)所能支撐的并發(fā)服務(wù)，對(duì)混合負(fù)載HTAP數(shù)據(jù)庫(kù)形成剛性需求。
方向3：多模態(tài)模型融合，完成產(chǎn)業(yè)造車
百模大戰(zhàn)都在造語(yǔ)言的輪子，那么大模型其他信號(hào)的模型如何與大模型進(jìn)行融合？比如空間大模型，長(zhǎng)寬高等幾何信息能否被空間建模壓縮到神經(jīng)網(wǎng)絡(luò)？以及視覺(jué)模型，空間模型，如何將這些模型打通？天云數(shù)據(jù)正在打通文本、圖像、空間認(rèn)知，在神經(jīng)網(wǎng)絡(luò)上做對(duì)齊。不僅僅是通過(guò) MOE 做模型調(diào)度，而還可以在神經(jīng)網(wǎng)絡(luò)上對(duì)齊。
事實(shí)上，我們都知道，無(wú)論“輪子”多好，但只有“輪子”是肯定不行的，唯有學(xué)會(huì)如何造車才能發(fā)揮好輪子的價(jià)值。
2024年1月5日
據(jù)logo200×100-01.png)
