10月17日,FPT在河内发布FPT AI EOS、配备GPU的FPT Kubernetes Engine以及FPT Token Factory三项企业AI解决方案,目标在于解决企业将AI从试验阶段推进到实际运营时遇到的关键问题。活动同期举行专题讨论,聚焦AI代理在企业中的规模化应用。
讨论中,SHB发展中心总监阮战胜表示,AI虽已用于解决业务问题,但部署过程仍在技术环节产生诸多问题。首先是系统集成与权限分配,AI可能调用错误功能或未获适当权限;其次是AI与旧系统交互时存在断连风险,需要设计重试机制;第三是令牌使用成本上升。他还指出,系统可能出现“静默出错”,即AI报告任务已完成但实际结果不准确,因此企业需建立检查与审计机制。
HPE AI业务专家Kevin Boo认为,企业难以期望AI代理系统一开始就完美运行,部署过程需持续调优,同时建立成本控制机制,尤其是令牌消耗。他表示,要让AI代理有效运行,企业需为每个代理设定合适的规则与条件。VietinBank数据与AI部门副总监阮功商博士则指出,大型机构面临的主要挑战在于技术基础设施不同步,许多企业仍在运行十多年前建设的系统,导致AI部署时系统连接与互操作性成为复杂问题。
关于部署成本与模型选择,阮功商表示,企业常比较市场上大型AI模型的能力,但并非所有内部任务都需要处理能力最高的模型。银行采用混合策略,根据工作需求灵活使用AI模型。对于自托管模型,银行可向基础设施供应商租用服务器,而非投资整个数据中心;为满足信息安全与跨境数据控制要求,银行优先选择租用设在越南的基础设施,但AI运行平台仍由银行自主部署和管理。阮战胜也认为混合模型在成本与数据控制方面具有优势。
在评估AI是否具备进入企业的条件时,阮功商提出三点:第一,不仅评估AI的回答,还要评估系统生成结果的整体意义与质量;第二,评估不应局限于单个组件,而需考察AI从决策、选择处理步骤到使用工具的整个流程;第三,需评估系统运行效率与安全程度。阮战胜补充,测试是AI开发的重要环节,可建立持续评估体系,结合源代码、测试集和多源知识数据,在模型、提示或运行框架变更时进行测量,以决定是否接受变更。
FPT Smart Cloud AI产品部门总监吴春伯副教授主持讨论,并提出将AI代理投入实际运行的问题,特别是内部数据连接、权限机制设立和风险控制。阮功商介绍,VietinBank已开发应用于业务流程的AI产品,允许AI代理从Lakehouse系统挖掘数据,但设置三层控制:第一层是建立服务特定需求的API接口,限制AI可挖掘的信息范围;第二层是用户身份识别与权限分配;第三层是控制涉及业务决策的任务,例如AI可协助起草呈文,但银行员工仍须检查、修改后再提交有权限者审批。原则是仅向AI提供完成任务所需的足够信息和权限,同时保留人的最终决定权。
从技术角度,Kevin Boo强调工具系统和检查点在AI代理运行中的作用,这些组件有助于控制任务执行步骤,而非让AI完全自由运行。阮战胜认为,构建AI运行与控制环境并不简单,尤其在使用了多个不同阶段开发的技术系统的银行中,数据不同步和碎片化可能使AI难以获取完整信息。此外,若设计不当,AI持续检索、处理信息并与系统交互可能消耗大量令牌,增加运行成本。
讨论还涉及AI代理的应用原则。FPT AI EOS产品管理总监陶碧玉提出六项原则:数据需作为有访问权限和审核机制的知识源进行管理;AI代理须在系统中以类似真实用户的权限和控制机制运行;运行环境需保持状态连续性,记录决策者并确保长期可追踪;以及活动追溯、网关控制与协调、最终用户体验等。她表示,这些原则旨在解决AI代理从试验走向大规模实际运行需处理的六个问题,首要便是数据——AI代理需获得准确、更新且符合各用户访问权限的信息。




