重磅推出運營商行業“大模型MAAS平臺”

2023-10-17 1051
大模型掀起AI浪潮，行業參與者都在不斷探索其商業化可能性，未來的大模型市場將是一個百花齊放的多模型生態。但由于安全信任、行業壁壘、核心機密數據和成本等因素，對于各行各業來說，垂直大模型將作為一種全新生產力以更強的領域專業性和任務針對性，更好地解決特定領域的問題、提供更加精準的服務。

2023 中移合作伙伴大會，浩鯨科技依托運營商領域二十年業務能力沉淀，重磅推出”大模型MAAS平臺”為運營商“此刻此景”特定業務場景的智能化發展提供一站式的大模型服務平臺，加速大模型在行業垂直領域的創新應用。

圖片關鍵詞

“此刻此景”， 打造運營商專屬模型

大模型技術通過多層注意力機制，將每個單詞在不同層面的語義整合在一起，預測下一個單詞應該是誰，這種機制在特定場景容易產生幻覺。

圖片關鍵詞

浩鯨科技洞察到這一問題，在“大模型MAAS平臺”將知識融入大模型，采用實時采集領域數據進行預訓練，形成特定領域向量空間和專屬行業知識標簽，并結合提示工程記憶上下文信息處理“此刻此景”業務，打造運營商生成類、診斷類、助理類、總結類、分析類、稽核類、問答類專屬大模型。

四大核心能力，助力業務效率倍增

浩鯨科技“大模型MAAS平臺”通過四大核心能力助力運營商實現基于大模型的業務智能化創新和大模型技術自研。

圖片關鍵詞

一

智算底座

隨著AI算法成本的增加，推理開銷已經超過了訓練開銷，這給AI的應用落地帶來了新的挑戰。為了降低推理成本，大模型MAAS平臺的智算底座提供了流量錯峰、訓推一體、算力智能調度、GPU超分與算力精分等手段。實現可以根據不同任務、不同集群、不同資源依賴、不同網絡等因素進行智能適配算力資源，從而極大提升資源利用率，實現100%國產硬件適配、單機加速50%、集群加算40%、推理加速60%、訓練加速40%的效果。

二

模型工廠

企業應結合業務場景，選擇合適的大模型。一個經過良好精調的中小規格模型，在特定工作上可能表現不遜于通用巨大模型。大模型MAAS平臺的模型工廠提供數據采集、數據標注、模型訓練、模型精調、模型部署和模型測評一站式直觀易用的可視化工具，大大簡化模型精調和模型測評任務。提升了不同尺寸、不同版本的模型開發效率，能快速根據業務入口，精選最合適的模型。

三

知識“三化”

企業知識常常蘊藏在各種媒介中，如Word文檔、PDF文件、視頻和圖片等，人工整理和梳理這些知識是一項巨大的挑戰，大模型MAAS平臺的模型服務可以幫助我們從這些媒介中提取知識，構建“三化”知識體系，即知識數字化、知識結構化、知識圖形化。大模型和知識結合可顯著提升大模型行業推理能力彌補大模型語料里的專業領域知識的不足、并能適應控制內容生成，從而降低事實性錯誤的發生概率。

四

應用引擎

大模型的應用往往需要利用外部數據庫、外部API能力以及其他小模型等插件，大模型MAAS平臺的應用引擎通過意圖識別、會話管理、鏈式引擎、插件驅動等功能，實現動態調用外部數據、外部API能力和其他小模型插件，完成應用智能交互，從而大大簡化了大模型應用的開發。

目前，浩鯨科技“大模型MAAS平臺”已發布1.0版本，為運營商提供創新應用和全面支持。未來，浩鯨科技也會不斷更新和改進模型，基于“大模型MAAS平臺”探索更多應用場景下的智慧化解決方案，以人工智能促進千行百業創新發展。

關于我們

產品與解決方案

成功故事

媒體中心


官方微信公眾號

浩鯨云計算科技股份有限公司 版權所有 2003-2023

蘇ICP備10224443號-6       蘇公網安備 32011402011374號

亚洲精品免费视频_热99re6久精品国产首页青柠_精品国产专区91在线_亚洲美洲欧洲偷拍片区