?
客戶模型上線應用的現狀
?
模型上線與模型生產對應的數據源不一樣；
模型開發交付的變量加工邏輯到模型上線實現的變量加工邏輯還存在一段距離：數據源統一、加工邏輯重構、數據核驗；
模型開發交付的模型到模型上線發布的模型存在一段距離：運行環境準備、環境變量設置、模型部署、上線測試等；
模型上線之后的幾種管理難度大，需要有效管理手段：模型服務科石化運維管理、模型服務統計分析等。
?
模型發布管理的痛點分析
模型上線發布管理依賴人工處理，缺少有效管理工具
?
模型管理模型推理解決方案批量推理
缺乏模型統一管理手段
- SAS建模工具
- TensorFlow
- Spark Lib
- Python
- CNTK
?
缺乏模型快速上線手段
- 模型運行環境問題
- 模型集中管理問題
- 模型快速部署問題
?
缺乏模型運維監控手段
- Physical Machine 資源占用
- Physical Machine 集群管理
- 模型服務運行資源使用
?
?
缺乏模型運行評估手段
- 模型服務運行統計
- 模型服務運行預警
- 主機資源使用預警
?
生產環境與開發環境使用的數據源不統一，模型上線需要對數據處理邏輯進行重構、數據變量加工結果的核查周期長，制約模型的快速發布上線。
模型發布管理的解決路徑與建設目標
?
模型推理解決方案實時推理
模型實時推理解決方案描述
少量數據接入
- 簡單指標特征的直接提取
- 復雜指標特征加工邏輯的T-1預處理
- 基于業務的原始數據流處理
特征變量相對簡單
- 基于信息指標加工
- 預處理指標特征
- 實時流數據加工特征
實時性要求高
- 模型在線計算
- 響應時間一般是幾秒鐘
計算流程相對簡單
- 規則配置，計算輸出
- 規則配置，計算輸出
