?
客戶模型上線應用的現狀
?
模型上線與模型生產對應的數據源不一樣；
模型開發交付的變量加工邏輯到模型上線實現的變量加工邏輯還存在一段距離：數據源統一、加工邏輯重構、數據核驗；
模型開發交付的模型到模型上線發布的模型存在一段距離：運行環境準備、環境變量設置、模型部署、上線測試等；
模型上線之后的幾種管理難度大，需要有效管理手段：模型服務科石化運維管理、模型服務統計分析等。
?
模型發布管理的痛點分析
模型上線發布管理依賴人工處理，缺少有效管理工具
?
模型管理模型推理解決方案批量推理
缺乏模型統一管理手段
- SAS建模工具
- TensorFlow
- Spark Lib
- Python
- CNTK
?
缺乏模型快速上線手段
- 模型運行環境問題
- 模型集中管理問題
- 模型快速部署問題
?
缺乏模型運維監控手段
- Physical Machine 資源占用
- Physical Machine 集群管理
- 模型服務運行資源使用
?
?
缺乏模型運行評估手段
- 模型服務運行統計
- 模型服務運行預警
- 主機資源使用預警
?
生產環境與開發環境使用的數據源不統一，模型上線需要對數據處理邏輯進行重構、數據變量加工結果的核查周期長，制約模型的快速發布上線。
模型發布管理的解決路徑與建設目標
?
模型推理解決方案批量推理
模型批量推理解決方案描述
數據量級大
- 批量的數據參與計算（eg：全量信用卡用戶）
- 長周期的數據參與計算（eg：六個月十佳周期）
- 外部數據引入
- Ckpt、pb等格式模型
特征變量多
- 基于長周期數據的統計特征
- 基于關系數據的網絡特征
- 基于算法實現的數據特征
實時性要求不高
- 離線跑批操作
- 固定位置的讀寫任務
- 一般T+1的時間周期
計算流程復雜
- 特征指標的多重計算
- 特征指標的復雜邏輯計算
模型批量推理解決方案
