看實在RPA Agent智能體安全機制如何破解LLM應用謎題？
AI大模型席卷全球，為各個行業帶來了顛覆式創新機遇，同時也打開了未知的潘多拉魔盒。隨著大語言模型能力的不斷增強和適用范圍延伸，大模型本身帶來的隱私泄漏、數據安全等問題越發成為各大廠商關注的核心，引發了各界更多的思考與發聲，今天我們邀請到了王吉偉頻道創始人、AIGC&超自動化分析師王吉偉做客實在智能會客廳，開啟深度對話的共同探索之旅——Agents如何破解LLM應用安全謎題？
不少企業早已感受到了大模型驚艷四座的“陽面”能力，將其作為提升工作效率的工具，但對于大模型安全保護的“陰面”疑慮也是記憶猶新。
3月份ChatGPT發生了用戶隱私數據泄露事件，OpenAI聲明由于開源代碼庫中存在一個漏洞，使得部分用戶能夠看到另一個用戶的聊天標題記錄，并把ChatGPT短暫下線緊急修補了此漏洞。此事件，讓大家認識到大模型并不是“大安全”。
試想如果不加限制地使用LLM，隨著更多敏感數據被傳輸LLM服務器，并被用作模型訓練數據集，也就意味著競爭對手通過隨意的聊天對話就能獲悉了你的核心數據。如果競對用這些數據建模對你進行降維打擊，會對企業會造成多大損失？
“數據泄露會造成嚴重的企業的信任度降低，讓業務連續性受到影響，并可能會帶來一定的法律責任。”王吉偉如是說。
實在AI Agent-個人PC數字助理
• 全球首個“實在RPA-Agent”生成式數字員工
• “你說PC做，所說即所得”
• 只需一句話，幫你操作電腦完成各種工作
與此同時，隨著技術的不斷發展，LLM的應用也進入到了AI Agent智能體階段。
AI Agent正在快速與許多領域融合，超自動化領域尤為如是。目前廠商們都在積極引入或投入到自研大語言模型上去，并基于這些大語言模型打造自己的Agent，以從安全、易用性等各方面提升超自動化的應用效率。而實在智能在今年8月已發布在業界首發基于大模型的Agent智能體產品，即TARS-RPA-Agent——則是基于“TARS+ISSUT”雙模引擎，有“大腦”，更有“眼睛和手腳”的超自動化智能體。
實在TARS-Agent是由AI驅動的程序，當給定目標時，能夠自己創建任務、完成任務、創建新任務、重新確定任務列表的優先級、完成新的頂級任務，并循環直到達到目標。只需輸入一句話或者更簡單的指令，就能通過理解與分析獲悉用戶的意圖，進而規劃并執行一系列任務，最終輸出詳盡而具體的答案。不僅讓輸入更加簡單，也在一定程度上提高了安全系數，有效避免了數據泄露的可能，還能最大限度發揮LLM的能力。
當然，超自動化Agent在數據安全方面遠不是減少提示詞輸入那么簡單。出于安全考慮，企業都希望在應用LLM時過濾內部敏感信息。以實在智能與湘財證券共建的財經行業大模型TARS-Finance-7B為例，一方面，金融領域的數據分散在各個金融機構，通用大模型缺少金融數據進行訓練，金融專業知識不足；另外一方面，如果從底層開始訓練大模型，所需要投入的算力成本非常高，比如千億級別的通用大模型，訓練一次需要付出幾千萬的成本。同時，金融是強監管行業，安全合規是大模型落地的前提條件和重要保障，金融大模型安全合規既需要監管政策的約束，更需要大模型企業自身的主動作為，防范大模型的潛在合規風險成為不少類似金融行業落地應用的剛性需求。
想要實現LLM的安全使用，需要分析數據泄露的相關因素。從已經發生的實踐案例來看，造成LLM數據泄露的主要原因，大概有這幾點：用戶隱私泄露、內部安全風險、系統漏洞。
理論上，只要我們針對性的解決這幾個問題，LLM的安全使用也就不在話下。現在，很多引入LLM的企業基本都建立了風控機制，按照LLM使用流程的先后順序，這些機制包括加強安全培訓、定期審查系統、加密處理敏感信息、使用可靠的人工智能服務提供商、建立應急預案等。
王吉偉認為，在這些安全措施中，“使用可靠的人工智能服務提供商”這一點最為重要，畢竟引入一個具備高度安全機制的LLM會事半功倍。其他幾點也能起到一定的作用，但多是為了防患于未然以及事后補救，并且其中的很多人為因素難以避免。
當然，凡事皆有利弊。雖然對話式交互的生成式AI會造成敏感數據泄露，但AI和自動化的使用，整體上正在降低數據泄露的成本。隨著大語言模型技術在各行各業的應用越來越多，傳統的安全工具、經驗、策略將失去效力，企業急需重新構建能適應智能化時代的安全體系。
實在智能在服務眾多大型企業客戶的LLM實際落地中扮演著重要角色，著力打造“更有效、安全、可信任、可落地”、提供隱私保護和數據安全防護功能的創新解決方案，即業界首發的實在RPA Agent智能體用以保障用戶數據安全，在超自動化領域通過AI Agent破解LLM安全謎題、提升安全系數。
實在RPA Agent智能體是基于實在智能自研垂直領域大模型TARS構建的RPA\超自動化智能體，是一種能夠自主拆解任務、感知當前環境、執行并且反饋、記憶歷史經驗的RPA全新模式。為了讓用戶更安全的使用AI智能體，實在RPA Agent智能體在TARS大語言模型和RPA工具包都設置的多重安全機制。
TARS大語言模型的安全機制側重于敏感數據、內部政策和提示檢查。在預訓練或SFT階段通過數據處理和文本分類算法刪除敏感數據，在大模型的輸出結果之上疊加一個輔助安全模型，RLHF（人類反饋強化學習）階段使用內部策略，檢查用戶查詢并添加安全提示等。這樣就能保證用戶輸入內容的多層過濾，防止敏感數據的外露。
TARS大語言模型基于充分細致的語料收集和清洗、數據處理及標注，超千億Tokens的預訓練語料和超百萬條指令微調數據，實在智能獨立完整復現大模型構建的預訓練、指令微調和RLHF三階段，使大模型具備完整能力。同時實在智能自主研發用于中文不當言論判別和生成終止的Detoxify系統，也提升了TARS的安全性和無害性，讓大模型“既懂事，又懂法”。在RPA工具包上，TARS-RPA-Agent安全機制側重于機器人授權繼承和指揮官分配或分發授權：
阻礙廣大企業應用大語言模型（LLM，Large Langeuage Models）的諸多因素中，無疑數據安全是最重要的。對于開發者和企業而言，大模型的開發與部署過程需要經過嚴格的審查，對數據的處理要嚴格遵循隱私保護原則，確保每一位用戶的信息都得到妥善保管，確保其不會對用戶和企業造成傷害。
目前市面上的數據安全管理軟件，功能豐富但應用復雜且價格不菲。為了LLM數據過濾這種單一應用場景而斥巨資購買全數據監控軟件，顯然過于浪費，并不是LLM數據過濾的最優選。事實上，這類需求更適合LLM技術供應商基于大語言模型技術路徑去做。
需在其LLM產品體系中添加隱私數據過濾功能，為企業用戶開放不斷更新或增刪敏感數據庫內容的權限。這種模式，不僅能為本身大語言模型提供過濾安全功能，還能用于企業所使用的第三方大語言模型，能夠在最大限度保護員工創造力的同時做好公司敏感數據的防護。這樣，企業就能實現花一份錢去保障更多LLM的安全。
實在TARS-Agent中的RPA安全機制正是采用這樣的解決之道：
首先，RPA機器人的授權均繼承自創建機器人的用戶，同時其權限范圍也和所在賬號的權限是一致的，不會獲取超出其權限范圍的信息；
其次，RPA指揮官可以分配和控制TARS-RPA-Agent的授權；
第三，在開發過程中，實在智能設計了一個易于處理敏感數據的模塊，使得敏感數據更易于通過配置、刪除、導入等方式進行設置。除了LLM和RPA，TARS-RPA-Agent還包含其他輔助模塊，其中的安全機制側重于內部知識庫認證、內部文檔訪問以及用戶確認。
有了實在智能面向LLM、RPA和輔助模塊的多重安全機制，在十幾層防護墻的共同作用下，想要泄露隱私數據都很難，徹底杜絕了前文所講的人為泄露數據的情況。再加上應對系統漏洞的相關安全機制，足以把LLM應用安全打造得固若金湯。當然，這還是直接使用TARS大模型或者調用API的情況。如果你是現金流充沛的企業，采用本地部署大語言模型的方式，安全情況會更上一層樓，這種整體安全解決方案非常適用于一些大型企業的LLM應用安全過濾。
如果你的企業正在為LLM的應用安全及預算而發愁，不妨試試實在智能的這種創新安全解決方案，會讓你眼前一亮。實在智能從最初的大語言模型產品布局開始就將企業客戶敏感數據的安全性防護列入了產品的SOP設計當中，目前已經為實在TARS垂直類大語言模型上了一道敏感數據過濾網，能夠在源頭上將企業客戶的敏感數據進行過濾后再輸出給到安全的數據，同時提供給企業客戶一個可以對敏感數據庫進行維護的權限，真正實現從企業客戶內部就輕松實現數據安全的把控，讓企業真正放心將智能體引入到整個企業數字化轉型的各個階段。
當前的大模型發展得尚不成熟，面臨著諸多安全隱患與風險。隨著深度學習技術的發展和研究的深入，未來大模型的攻防將在動態抗衡中不斷升級，大模型需要應對的新型安全威脅將不斷涌現和升級，建立完善統一的大模型安全評估框架、探索有效的防御機制、實現 AI 大模型安全監管和可控生成，以及促進大模型安全生態的建設等任務迫在眉睫，實在智能已在率先領跑的道路上邁著堅實的步伐，幫助企業解決數據安全和使用成本問題，助力越來越多的企業實現安全智能化轉型。
