【美洽看 AI】客戶服務未來已來，AI Agent 如何改變游戲規則？
“在生成式AI革命的兩年后，研究領域從‘快速思維’——快速反應的預訓練回答，向著‘慢速思維’——推理時的深度思考發展。這一轉變正在催生一批全新的智能應用”
——Sequoia
《生成式 AI 第一幕，智能體推理時代開啟》
2024年各領域 AI Agent 集中爆發，生成式AI在企業應用層價值迅速放大，全球 AI 應用層公司將通過提供具有自主推理能力的場景服務工具，逐步占據市場。
在本期內容中我們將立足客戶服務場景，對 AI Agent 定義、工作原理、技術演進結合美洽 AI Agent 研發實踐探討 AI Agent 發展趨勢。
定義與工作原理
AI Agent，也就是人工智能體，通俗的講，是一個高度擬人計算程序，借助“大模型”大腦，它能完全理解所處環境發生的事情，自己思考問題、做決定、自主執行完成任務。從技術層面看，AI Agent 基礎架構是由4個關鍵部分組成：規劃Planning、記憶Memory、工具Tools、行動Action。
規劃 Planning
LLM 可以賦予智能體“規劃”的思維模式，對復雜的任務進行拆解，拆分為多個步驟，一步步思考和解決，借助RAG等技術工具使輸出結果更加準確。
記憶 Memory
類似于人類的“記憶”機制，智能體擁有短期記憶與長期記憶，單次會話的上下文記憶會被短暫的儲存，以用于多輪會話，在任務完結后被清空；長期記憶如用戶的特征信息、業務信息等通常用向量數據庫來存儲和快速檢索。
工具 Tools
智能體具備使用各種“工具”的能力。比如通過調用軟件系統不同應用模塊的 API，獲取到指定的業務信息，以及執行業務的操作權限。通過調用外部的插件工具，來獲取原本 LLM 并不具備的能力。
行動 Action
智能體基于規劃和記憶來執行具體的“行動”，完成特定任務。
AI Agent 與大模型 、RAG 的關系
LLM大模型、RAG 檢索增強常與 AI Agent 一同出現，他們之間在實際場景應用中究竟有什么樣的聯系呢？
LLM可以被看作是 Agent 的“思考中樞”。Agent 利用 LLM 的推理能力，將復雜問題細化為多個小問題，并確定它們的解決順序，即哪些問題需要優先處理。隨后，AI Agent 會依據這個順序，依次調用 LLM、RAG 技術或外部工具來逐一解決這些小問題。在這一過程中 RAG 可以實現加入本地知識庫、實時數據等來增強大模型的檢索和生成能力，提高信息查詢和生成質量。
同樣是對話，為什么 AI Agent 如此不同？
在大模型技術廣泛應用之前，客戶服務自動化主要依靠聊天機器人/Chatbot 來實現。聊天機器人按照預先編寫的對話流程工作，通常會重復固定的回復，而 AI Agent 能夠進行智能推理。
與 AI Agent 對話的體驗更像是與一位聰明的客服人員交流，而與聊天機器人的對話則像是在選項菜單中挑選答案。傳統聊天機器人需要創建常見問題列表，并為每個問題準備腳本化的回答，這一過程既耗時又難以擴展。相比之下，AI Agent 如同一名具有巨大潛力的數字員工，能夠迅速接入現有的信息源，快速學習并提供個性化的解決方案，幫助客戶解決問題。
對于企業來說
客戶服務 AI Agent 有哪些立竿見影的應用價值？
在營銷客服領域，AI Agent 的應用正迅速革新傳統模式。技術成熟的 AI Agent 可以高效執行營銷及客服場景中標準化重復任務，并通過人機協作的方式處理一些復雜場景。
更智能的售前接待與線索獲取：
7X24小時在線，意圖識別，情緒分析，快速精準的響應，可高度還原真人售前人員，提升售前對話線索獲取效率。
更高效的售后服務與客戶支持：
自動化標準任務、智能路由、人機協同，提升服務效率、解放更多人力，提升客戶體驗。
無障礙出海營銷與客戶服務：
多語言自動翻譯切換，跨時區服務，直接為企業出海業務、全球獲客提供最實用的工具。
客戶服務AI Agent技術難點
有了大模型，為什么還會衍生出種類繁多的 Agent？這是因為現實世界是復雜的，在企業活動中的每個場景也是復雜的，現實場景需要大量特定的應用推理，這些推理無法有效地被納入到一個通用模型中。這就是《生成式 AI 第一幕：智能體推理時代開啟》一文中提到的 AI 應用層正在不斷自定義的特定場景的“認知架構”。
以客戶服務領域為例，無論是售前還是售后場景中的 AI Agent 構建，并不是給基礎的 AI 模型加個操作界面那么簡單，這是一種十分復雜的開發系統，面對不同的AI模型，就像面對一個多才多藝的團隊，每個成員都有自己的特長，需要通過一種高效的協調方式，也就是路由機制來集成。除此之外，還會用到特殊的數據庫來存儲和管理信息（RAG 向量/圖形數據庫），確保數據安全和合規。最重要的是，Agent 需要實現模仿人類的思考方式，幫助解決復雜問題。
本章節內容來自美洽 AI 研究中心負責人訪談實錄
根據產品發展的普遍規律，產品演進通常遵循三個階段：
起步階段：在這一階段，產品的核心功能得以實現，以滿足用戶的基本需求。
成熟階段：隨著功能的不斷豐富和完善，產品開始支持更高層次的用戶交互，包括人工干預和調整，以提升用戶體驗。
創新階段：在這一高級階段，產品通過智能化技術實現自主學習和適應，以提供更加個性化和高效的服務。
美洽各產品線正是遵循這一演進路徑，緊跟前沿技術，從最初的基礎功能實現，逐步過渡到功能豐富和用戶友好的優化，到目前全線擁抱AI，重新定義場景需求，推動產品下一層級的發展。
第一代：RASA 時代
Rasa Open Source，一個誕生于2019年的開源機器學習框架。2022年初，Rasa 3.x 的發布，這個機器學習框架迅速在智能客服領域得到廣泛應用，美洽也在當時推出了基于 Rasa 的客服機器人商業化產品，覆蓋服務售前營銷和售后問答場景。
這個階段的AI客服主要依賴于意圖識別和實體提取技術，能夠處理結構化的對話流程。但在處理復雜、多輪對話時不夠智能。例如，它難以精確理解上下文語境，無法處理復雜的用戶詢問，應對不在預設范圍內的問題時候缺乏靈活性，當需要優化識別和調整話術時，需要補充語料后重新訓練。
第二代：SOP + LLM Agent
OpenAI 的 GPT-3 模型的問世標志著一個新紀元的開啟，基于這一代技術，美洽針對客服領域開發了一套可控、可調節的場景化 SOP，集成了大型語言模型 Agent 能力。自2024年4月起，產品形態從單一Agent 到多 Agent協同、Workflow 管理，再到現在的 Agent 組合工具+ SOP + Agent Workflow 集成解決方案。
在技術探索的旅程中，我們對多個主流大模型平臺進行廣泛的調研測試，包括 Dify、扣子、阿里云百煉、火山云方舟、FastGPT、Flowise、RagFlow，希望從中找到最適合的客服場景落地的 ToB 解決方案。當前美洽已與行業內領先廠商建立了深度合作關系，包括通義千問、豆包、Azure OpenAI、Claude、DeepSeek、Llama 等。
技術更新的速度比我們預想的還要快，在9月份30天時間里，我們連續推出了3個版本的 RAG 知識庫方案。在 2.0 版本尚未完全開發完成時，我們發現了更先進的方案，于是果斷決定放棄 2.0 版本，直接轉向 3.0 版本的開發，以實現技術的快速演進。
截止目前，美洽全產品線 AI 功能均向新老客戶開放試用了，美洽 AI Agent 能力已經在部分客戶一線業務場景中發揮作用，老用戶可以原地升級到最新 AI 版本，新用戶可以免費體驗我們新版本 AI 客服功能，感受技術革新帶來的便捷與效率。
在 Open AI 的構畫中，Agent 是AI系統發展的一個階段：
它隨著AI技術的發展而進化，未來可見的是 AI Agent 將通過融合自然語言處理、計算機視覺和語音識別等技術，在多模態交互上實現突破，提供更自然高效的互動，關于 AI Agent 的演化路線，我們引用一副圖表來展示：
在 Agent 未來更高的發展階段中，它是能夠自我組織，自我決策、自我調度來完成復雜的任務，這一層級能力將最直接地反映在客戶服務場景中。
傳統人工客服中的技能組：售前咨詢、產品推薦、成交促進、訂單處理、售后服務、投訴管理、技術支持、反饋收集等等對應著不同的 Agent 能力，所有這一切環節，AI能夠7*24小時自我組織不同技能的 Agent 來完成接待工作，這應該是所有客戶理想中的智能客服的狀態，這也是美洽前進的方向，“我們不確定這樣的未來還有多遠，我們只知道每往前一步，就離這個未來更近。”
END
