发展人工智能'以人为本'

越南中文社
10 Min Read

11月21日上午,受总理委托,科学技术部部长阮孟雄向国会提交了人工智能法案。该法案调整了越南人工智能的研究、开发、提供、部署和使用的全部活动;适用于外国组织和个人,如果其人工智能产品在越南产生影响。专门用于国防和安全的系统被排除在外,以确保业务机密,但如果用于民用目的,则仍需遵守一般规定。

据部长介绍,该法案被设计为框架法,仅规定核心原则,为技术快速发展创造灵活空间,同时确保不与现行法律重叠。该法案包括8章36条,重点关注人工智能发展的原则、调整范围和大政策。

国家在管理和创造发展环境中发挥主导作用;同时成立国家人工智能委员会,以协调战略和政策;建设一站式信息门户和国家人工智能系统数据库,以服务于监督、报告和信息追溯。

草案的一个重要内容是风险分级管理机制,将人工智能系统分为四个级别:不可接受风险、高风险、中等风险和低风险。供应商在系统上市前必须进行自我评估和分类,并对结果负责。对于中等和高风险系统,企业必须通过一站式信息门户向科学技术部报告以进行跟踪。

不可接受风险组被完全禁止,包括创建虚假内容以欺骗、操纵、造成严重损害,或利用弱势群体(如儿童、老年人)弱点的系统;以及可能威胁国家安全、社会秩序和安全的系统。

发展人工智能'以人为本'

草案首次提出了通用人工智能模型的管理框架,其中包括开源模型。开发者在提供前必须确保基本的安全性和透明度水平,并进行风险评估;使用通用模型的组织和个人,无论模型是在国内还是国外开发,在构建人工智能产品和服务时都必须进行评估并附加适当的警告。

关于责任和制裁,高风险人工智能系统被确定为“高度危险源”,因此供应商和部署方即使没有过错也必须赔偿损失,除非根据民法典免除责任。如果有多个主体参与,责任根据各方的风险控制能力和可预测性确定。对组织的最高行政罚款为20亿越南盾,对个人为10亿越南盾;对于严重违规,罚款可能高达上一年营业额的2%。

为促进发展,该法案提出了多项大政策,如支持研究、培养高素质人力资源、发展数据基础设施和高性能计算基础设施;鼓励企业投资,并在受控的“沙盒”机制下测试新产品。国家人工智能伦理框架也已颁布,以确保系统被安全、无偏见地开发和使用,尊重人文价值。

负责审查法案的机构代表、科学技术与环境委员会主任阮清海同意大方向,但认为许多内容需要进一步澄清。她表示,当前的风险分类缺乏具体的定性和定量标准;与各风险级别相对应的管理措施也未充分设计,容易使企业在执行时感到困惑。

委员会建议补充确保人工智能数据质量的原则,包括“正确-充分-清洁-更新”的数据以及连接和共享机制,以避免分散;同时明确规定网络安全要求和保护国家人工智能基础设施。

委员会还指出,人工智能的许多法律问题可能引发复杂争议,如价值链中各主体之间的责任,特别是为跨境服务提供的外国企业;区分故意、过失或技术限制导致的错误。一些密切相关的领域,如著作权、研究数据的使用,或在大学、研究机构测试新模型等,也需要补充以避免法律空白。

国会将于11月27日讨论人工智能法案,并预计于12月11日通过。

(编译:Jon 越南中文社;审校:Alex;来源:VNExpress)

Share This Article
没有评论

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注