在人工智能技術飛速發展的今天，基于大模型的生成類應用已經成為業界關注的焦點。這些應用不僅可以幫助企業提高生產效率，還能為用戶提供更加個性化、智能化的服務體驗。本文將探討生成類應用的機遇與挑戰，以及在實際落地過程中的探索和實踐經驗。
生成類大模型讓通信運營商在多個方面受益，主要體現在運營、成本、質量及創新能力上。
生成類應用可以幫助通信企業自動化處理大量的日常工作，例如客戶服務對話、故障診斷和修復指南生成等，從而顯著提高運營效率。
自動化處理重復性任務可以大幅降低人力資源成本，同時通過優化網絡資源配置和運維管理，有效減少各類成本。
通過自動生成高質量的文檔、技術指南、用戶手冊等，可以減少人工錯誤，確保信息的一致性和準確性，從而提升客戶滿意度。
利用生成式AI技術，通信企業可以開發出更多創新的產品和服務，比如基于AI的虛擬助手、智能客服系統等，為用戶提供更加個性化和智能化的體驗。
在眾多生成類的場景中，通信運營商的售前方案的支撐的需求量最大，一線訴求最強，主要存在以下困難點：
售前方案主要由一線解決方案經理依靠人工拼裝，生成效率低，易出錯。
一線方案經理經驗不一，方案質量參差不齊，影響品牌聲望。
客戶變更需求多，方案頻繁修改，售前方案生成周期長，客戶滿意度降低。
通過運用生成式大模型的技術，高效高質量生成售前方案，重構生產運營前后端，已成為運營商數智賦能生產過程的突破口。
面對眾多的售前方案場景，如何聚焦業務量大、有特色的業務，如何喂投專業業務知識， 如何標準化知識文檔結構，如何與業務系統無縫對接等諸多難點，我們采用“逐層拆解，逐個擊破”的策略，對生成類的應用場景需求分析設計過程抽絲剝繭，聚焦核心業務、方案論證、原型交互設計，知識標準化梳理，最終形成生成類大模型應用產品的形態。
售前方案涉及行業眾多如金融、衛健、農業、教育等，業務跨度廣，全部梳理則落地周期長，效果不顯著。聚焦一線最急迫，業務最典型，訪問量最大的小微企業的組網和視頻監控的售前方案生成場景，以此為切入點打造領域方案撰寫的樣板點，以點帶面，為后續多行業售前方案智能生成奠定基礎。
【一線關鍵問題聚焦】
1.小微客戶個性需求多，往往需要針對性編寫方案，周期長
2.組網監控業務復雜，需要較多專業知識和經驗
3.已有方案難復用，需人工對已有的方案庫進行檢索
聚焦場景后，梳理小微組網方案生成的用戶故事，確定解決方案經理的操作流程，完成業務規則訓練、設備清單庫對接、高中低報價、方案生成、對接云鏈的業務流程設計。
根據業務流程，確定整體方案的智能化目標，同時制定小微組網方案生成的技術方案。事前構建高質量的數據集，事中重點設計智能高效的交互體驗，事后形成閉環的知識評估及更新方案。
通過文檔識別、文檔處理、索引構建、知識檢索這四大步驟構建高質量數據集，形成售前方案高質量生成的技術保障。
word/excel/pdf等格式的文檔是業務知識常用載體，將操作手冊、產品白皮書、設備安裝手冊介紹等常見文檔作為知識的輸入，有利于業務知識的快速收集和成生。通過文檔格式處理技術，高效識別文檔關鍵元素，保持文檔的層次結構；通過文檔多模型內容處理技術保持文檔文本、圖片、表格等多模型信息的還原度。應用語義索引和實體索引兩種策略，構建高效的索引方案。通過語義檢索、關鍵字檢索、實體檢索等組合的知識檢索方案，形成知識庫整體建設的完整方案。
依托業務知識的規則化和章節內容的標準化，形成高質量的小微組網知識數據集，并依據知識集及典型方案定義生成文檔的標準化格式。
通過一線調研結合典型售前方案，確定小微組網知識分為網絡類和安全安防類兩大類，每一類又有細分場景，每個細分場景有對應的商品，每個商品有詳細的業務規則。如下圖所示：
小微組網的業務知識的梳理，即將這些商品在細分場景下對應的規則進行細化，形成知識場景化的知識規則體系，納入知識庫統一管理。
一線解決方案人員在編寫小微組網方案時內容和格式都不大一樣，無法保證高質量，需對方案內容的章節進行統一定義。
首先，分析典型方案內容，抽取共性章節，最終確認標準方案章節定義為：需求描述、方案描述、方案報價。
其次，報價部分格式千樣，存在較多隱患。最終根據一線的報價需求并參考報價系統，形成標準報價方案包括：標品套餐、集成服務清單、項目總計的內容。
良好的交互體驗影響售案生成質量和一線感知。應用業務參數固化、會話管理、提詞工程、RAG檢索增強生成四種交互技術使該場景交互質量與交互感知達到最佳平衡。
標準化模板：通過預先設定的參數模板，確保售前方案的標準化，提高方案的一致性和質量。
快速變更：固化參數允許快速變更配置方案的基本框架，加快方案生成的速度。
減少交互次數：標準參數無需來回對話，提升需求收集的速度。
會話管理是為了有效且準確的將對話之前所蘊含的信息提取出來而引入的模塊，將智能分割用戶會話內容管理過往對話所蘊含的場景信息、意圖信息傳入大模型底座，從而生成連貫和個性化的回復。同時引入個人用戶token，在每個對話之間傳遞會話令牌，能夠將不同用戶的輸入與之前的對話上下文關聯起來,產生與特定用戶和對話相關的回應。
提示詞工程在大模型與復雜業務結合時具有重要作用。建立提示詞模板庫，針對不同場景設計特定模板。
提高用戶體驗：通過精心設計的提示語，可以幫助解決方案經理更好地理解和操作界面，減少錯誤操作。
引導用戶行為：提詞可以指導解決方案經理完成特定的任務流程，比如填寫組網標準參數模板。
減少用戶輸入負擔：智能提詞可以預測解決方案經理的輸入意圖，自動完成部分輸入，減輕解決方案經理的手動輸入工作量。
提供即時反饋：提詞可以用來給予解決方案經理即時反饋，確認解決方案經理的操作是否成功，或者指出可能存在的問題。
RAG檢索增強技術確保交互返回的答案精準有效。通過引入ES，對文檔的內容關鍵字進行檢索和對向量庫的相似召回，對召回的內容進行rerank排序，提高了文檔檢索結果的正確性，對問題進行重寫和二階段檢索結果由LLM推理歸納返回最佳答案。
組網的業務規則會隨市場變化和新產品入網產生變更，通過一線用戶評價反饋及提詞優化反饋實現業務知識質量評估及長效更新，滿足市場變化的需求。
一線用戶評價：由一線人員在對話的過程中進行滿意度價評，包括方案知識的點踩，形成劣質知識的下架，精確知識的更新。
提示詞優化收集：管理抽取知識的提示詞的內容、相似度、向量閾值、TOPK等相關信息。在提示詞對檢索和輸出的內容進行規范說明。實現對大模型對知識檢索的準確率和抽象整理能力。
隨著大模型帶來能力突破，讓AI與生成力結合，促進企業內部數據價值釋放。未來，我們預見大模型將進一步與業務緊密結合，成為整個業務流程的核心驅動，接入更多的方案生成場景。同時結合AR/VR技術，生成式AI可以生成更加直觀易懂的方案。未來怎樣發展，我們將持續把握風口，迎接挑戰。