電信大模型平臺

【產品概述】

浩鯨科技電信大模型平臺主要包含1底座（智算平臺）、2引擎（生成引擎、應用引擎），基于開源基礎大模型構建從底層資源調度、模型訓練精調、模型應用開發的大模型一體化解決方案，降低模型應用門檻和成本，提高模型應用精度和效率，快速定制個性化模型應用，促進模型應用創新和發展。

目前，浩鯨科技電信大模型平臺已經應用到運營商BSS、OSS、MSS、大數據各域中，打造了方案助手、一線直通車（運維診斷）、ChatBI、數字人等大模型應用，助力運營商快速適應大模型環境和需求變化，快速升級以大模型為核心的智能服務。

【亮點特性】

o   降低模型應用門檻，快速集成

讓更多的開發者和企業能夠快速、便捷、低門檻的利用大模型能力構建智能化應用，實現快速集成。

o   降低模型運營成本，減輕幻覺

構建大模型參數矩陣，用最合適的模型完成推理；通過RAG檢索私有知識庫，精準生成內容。

o   適配國產算卡，優化計算引擎

適配華為NPU和其他國內廠家GPGPU，滿足實際算力平臺需求，優化開源計算框架，為算卡加速。