天云數(shù)據(jù)AIGC平臺Elpis

實現(xiàn)從智能生產(chǎn)內(nèi)容到規(guī)?；疉I流水線生產(chǎn)內(nèi)容

AIGC平臺Elpis

為什么大模型是機器學(xué)習(xí)廠商

大模型Serving，接入模型只是第一步，還需要構(gòu)建一個從大模型選擇、私域數(shù)據(jù)供給向量數(shù)據(jù)庫、大模型參數(shù)微調(diào)、強化學(xué)習(xí)、提示詞工程、語義工程服務(wù)、模型部署發(fā)布、模型運行監(jiān)控、模型管理、模型安全服務(wù)等全流程技復(fù)雜術(shù)棧，去支持大模型典型服務(wù)應(yīng)用。這其中的每一個環(huán)節(jié)，服務(wù)云原生發(fā)布都需要依賴AI平臺。

資料來源：美國知名創(chuàng)投Insight Partners（洞見創(chuàng)投）

大模型榮譽資質(zhì)

入選中國信通院2023

《高質(zhì)量數(shù)字化轉(zhuǎn)型產(chǎn)品及服務(wù)全景圖》

AI大模型領(lǐng)域

信通院大規(guī)模

運營標準參編單位

信通院2023

可信AI案例

2023全球數(shù)字經(jīng)濟大會

產(chǎn)業(yè)創(chuàng)新成果

大模型權(quán)威背書

國家電網(wǎng)簽約的引擎層大模型專業(yè)企業(yè)頭部企業(yè)

新華社國重實驗室大模型領(lǐng)域戰(zhàn)略合作企業(yè)

多個大模型項目進入上海資產(chǎn)管理協(xié)會合作名單

天云數(shù)據(jù)大模型能提供什么服務(wù)？

（天云數(shù)據(jù)MaaS平臺）

天云數(shù)據(jù)提供國產(chǎn)化GPU異構(gòu)算力調(diào)度、多算法框架兼容、數(shù)據(jù)標注、及大模型SFT微調(diào)(LoRA、P-tuning v2?、Freeze及Prompt-Tuning)等模型發(fā)布一體化管理平臺、大模型服務(wù)（RAG自動化流程、plugin插件、prompt語義工程）、數(shù)字人（語音克隆、形象訓(xùn)練、視頻生成）、數(shù)字空間生成，為AIGC企業(yè)提供強大的模型訓(xùn)練能力和應(yīng)用開發(fā)能力。

SFT大模型微調(diào)

ELpis基于天云數(shù)據(jù)多年積累的AI建模能力，為大模型開發(fā)者提供一站式模型訓(xùn)練和微調(diào)能力，支持對GPU的算力優(yōu)化、支持大模型的預(yù)訓(xùn)練、指令微調(diào)、支持ColossalAI \ deepspeed \ Megatron等大模型訓(xùn)練框架。

RLHF 人類反饋強化學(xué)習(xí)

大模型應(yīng)用對話過程中會加入生成反饋功能，將用戶對生成結(jié)果的返回保存并再用于大模型調(diào)優(yōu)，通過這種方式實現(xiàn)大模型的持續(xù)優(yōu)化。此外，Elpis會記錄用戶與大模型的對話記錄，可通過平臺對對話記錄進行再次標注，從而用于大模型調(diào)優(yōu)。

Prompt-Engine 提示詞工程

Elpis允許用戶對大模型提示詞進行編排和調(diào)試，通過預(yù)設(shè)變量靈活開發(fā)大模型應(yīng)用。此外，使用知識庫和插件能力作為大模型能力擴展，增加大模型生成能力。針對不會寫提示詞的客戶推出一鍵提示詞優(yōu)化，提高提示詞生成準確度。

RAG 知識檢索增強

向量數(shù)據(jù)庫

通過將模型與向量數(shù)據(jù)庫結(jié)合，可以讓模型擁有外部知識能力，可以添加用戶個性化數(shù)據(jù)，并根據(jù)策略檢索返回，補充大模型知識能力，大模型在回答時可使用這些額外的向量數(shù)據(jù)做出更精確的判斷和回答。

數(shù)據(jù)標注

Elpis平臺擁有完整的數(shù)據(jù)標注能力，支持從預(yù)處理文本切分到標注和質(zhì)檢的全流程智能數(shù)據(jù)處理。借助Elpis平臺的智能標注能力，用戶可以快速完成數(shù)據(jù)準備并建立向量知識庫。

Agents 智能體

多智能體交互

通過智能體特有的“觀察-行動-反饋”自我強化機制，融合窄領(lǐng)域大模型的生成和理解能力，在對抗推演環(huán)境中進行多智能體的自動化交互，結(jié)合向量數(shù)據(jù)庫的多模態(tài)智能體記憶流，可自主回溯歷史數(shù)據(jù)并制定高階行動。通過自主的任務(wù)生成、任務(wù)排序?qū)崿F(xiàn)窄場景的開放式預(yù)知對抗推演。

復(fù)雜任務(wù)判斷

使用由大模型驅(qū)動的任務(wù)生成模型和任務(wù)優(yōu)先級模型對智能體的行為調(diào)度，自動對任務(wù)的時效性、重要性和相關(guān)性等屬性進行推理排序執(zhí)行。技術(shù)采用智能體使用記憶機制，基于向量數(shù)據(jù)對歷史和環(huán)境內(nèi)的數(shù)據(jù)進行存儲和獲取，整體流程模擬了人類的決策流程中的觀察-回憶-計劃-執(zhí)行-記憶。