10月17日,FPT在河內發佈FPT AI EOS、配備GPU的FPT Kubernetes Engine以及FPT Token Factory三項企業AI解決方案,目標在於解決企業將AI從試驗階段推進到實際運營時遇到的關鍵問題。活動同期舉行專題討論,聚焦AI代理在企業中的規模化應用。
討論中,SHB發展中心總監阮戰勝表示,AI雖已用於解決業務問題,但部署過程仍在技術環節產生諸多問題。首先是系統集成與權限分配,AI可能調用錯誤功能或未獲適當權限;其次是AI與舊系統交互時存在斷連風險,需要設計重試機制;第三是令牌使用成本上升。他還指出,系統可能出現“靜默出錯”,即AI報告任務已完成但實際結果不準確,因此企業需建立檢查與審計機制。
HPE AI業務專家Kevin Boo認為,企業難以期望AI代理系統一開始就完美運行,部署過程需持續調優,同時建立成本控制機制,尤其是令牌消耗。他表示,要讓AI代理有效運行,企業需為每個代理設定合適的規則與條件。VietinBank數據與AI部門副總監阮功商博士則指出,大型機構面臨的主要挑戰在於技術基礎設施不同步,許多企業仍在運行十多年前建設的系統,導致AI部署時系統連接與互操作性成為複雜問題。
關於部署成本與模型選擇,阮功商表示,企業常比較市場上大型AI模型的能力,但並非所有內部任務都需要處理能力最高的模型。銀行採用混合策略,根據工作需求靈活使用AI模型。對於自託管模型,銀行可向基礎設施供應商租用服務器,而非投資整個數據中心;為滿足信息安全與跨境數據控制要求,銀行優先選擇租用設在越南的基礎設施,但AI運行平臺仍由銀行自主部署和管理。阮戰勝也認為混合模型在成本與數據控制方面具有優勢。
在評估AI是否具備進入企業的條件時,阮功商提出三點:第一,不僅評估AI的回答,還要評估系統生成結果的整體意義與質量;第二,評估不應侷限於單個組件,而需考察AI從決策、選擇處理步驟到使用工具的整個流程;第三,需評估系統運行效率與安全程度。阮戰勝補充,測試是AI開發的重要環節,可建立持續評估體系,結合源代碼、測試集和多源知識數據,在模型、提示或運行框架變更時進行測量,以決定是否接受變更。
FPT Smart Cloud AI產品部門總監吳春伯副教授主持討論,並提出將AI代理投入實際運行的問題,特別是內部數據連接、權限機制設立和風險控制。阮功商介紹,VietinBank已開發應用於業務流程的AI產品,允許AI代理從Lakehouse系統挖掘數據,但設置三層控制:第一層是建立服務特定需求的API接口,限制AI可挖掘的信息範圍;第二層是用戶身份識別與權限分配;第三層是控制涉及業務決策的任務,例如AI可協助起草呈文,但銀行員工仍須檢查、修改後再提交有權限者審批。原則是僅向AI提供完成任務所需的足夠信息和權限,同時保留人的最終決定權。
從技術角度,Kevin Boo強調工具系統和檢查點在AI代理運行中的作用,這些組件有助於控制任務執行步驟,而非讓AI完全自由運行。阮戰勝認為,構建AI運行與控制環境並不簡單,尤其在使用了多個不同階段開發的技術系統的銀行中,數據不同步和碎片化可能使AI難以獲取完整信息。此外,若設計不當,AI持續檢索、處理信息並與系統交互可能消耗大量令牌,增加運行成本。
討論還涉及AI代理的應用原則。FPT AI EOS產品管理總監陶碧玉提出六項原則:數據需作為有訪問權限和審核機制的知識源進行管理;AI代理須在系統中以類似真實用戶的權限和控制機制運行;運行環境需保持狀態連續性,記錄決策者並確保長期可追蹤;以及活動追溯、網關控制與協調、最終用戶體驗等。她表示,這些原則旨在解決AI代理從試驗走向大規模實際運行需處理的六個問題,首要便是數據——AI代理需獲得準確、更新且符合各用戶訪問權限的信息。




