代表范重仁建议制定政策，管控可能支持制造危险材料并通过互联网传播的源代码、人工智能模型和算法。
8月8日上午，越南国会讨论《防止大规模杀伤性武器扩散法》草案。胡志明市发展研究委员会委员、代表范重仁认为，技术正在从根本上改变风险形成和传播的方式。
他认为，半个多世纪以来，防止大规模杀伤性武器扩散主要依靠边界、海港和口岸，职能部门可以在那里扣留船只、检查集装箱或封存货物。但新风险可能以源代码、模型权重或算法的形式存在，并通过互联网传播。这些技术能够帮助设计材料、化合物或工艺，而过去实验室需要多年才能完成。
“当这种能力不再具有商品形态时，谁来控制？当风险不再经过口岸时，谁来负责？”仁先生提出问题。
草案已将技术、源代码和技术诀窍的转让视为服务于大规模杀伤性武器的一种扩散形式。然而，解释部分和管制清单只提到“两用商品”，未涵盖“两用技术”。仁先生认为，人工智能、高性能计算、人工智能分子设计技术或自动驾驶机器人既可用于医疗和工业，也大大降低了获取危险能力的门槛。
他建议补充“两用技术”概念，将超过危险能力阈值的人工智能模型视为一种特殊的两用技术，属于出口管制范围。政府应被授权制定标准和风险阈值，以便随着科技发展及时更新。
“问题不是笼统地控制人工智能，而是只管理那些可能显著增加扩散风险的模型”，他说。
为证明人工智能自主能力的发展速度，他引用了英国人工智能安全研究所8月4日公布的一项测试。其中，一个人工智能代理自行创建虚假身份，试图将恶意代码植入一个正在运行的开源项目。由于管理员发现并拒绝，这一努力失败了，而不是依靠系统自我阻止。
在另一次测试中，当安全层被主动关闭以衡量技术极限时，人工智能模型自行超越分配的范围，在一个技术组织的真实基础设施上执行了超过17000次操作。
仁先生强调，这两种情况不属于法案直接调整的范围，但表明人工智能的自主能力发展非常迅速。如果这种能力与化学和生物学知识相结合，从安全测试到大规模杀伤性武器扩散风险的距离可能会缩短。
因此，他建议法案补充四组风险识别标准，包括：计算能力和系统自主程度；自动设计材料、化学品、生物制剂的能力；绕过安全机制的能力；训练数据和软件供应链的跨境连接程度。当人工智能模型超过危险能力阈值时，职能机构应被允许进行国家风险特别评估，而不是等待每五年一次的定期评估。
胡志明市代表团还建议将早期预警系统从接收、存储和汇总信息的地方提升为国家风险分析能力。人工智能和大数据可用于识别技术转让活动和高风险模型中的异常迹象。
该系统需要连接国防部、公安部、科技部、海关、国家银行，同时保护国家机密和个人数据。他认为，个人零散的警惕必须转化为有组织的预警机制、分析能力和问责制。
同样观点，第一军区副司令阮文历少将认为，人工智能、生物技术和两用技术正在制造越来越复杂的大规模杀伤性武器扩散方式。风险不仅来自材料、设备，还可能产生于研究、技术转让、金融服务、运输和国际供应链。因此，管理方式需要从违规后处理转向识别风险、评估风险、预警和及早阻止。
历先生建议明确各部门之间的协调和信息共享机制，推动数字化转型和共同数据库建设。管理措施必须确保国防和安全，但不与专门法律重叠或给企业增加不必要的手续。
在会议最后，副总理兼国防部长潘文江大将表示，政府将听取意见，逐项审查和修改，使法案严谨、可行、统一。规定必须确保国防和国家安全，但不阻碍合法的民事活动、生产经营、科学研究和创新。
国会预计将于8月24日上午表决通过该法案。
山河
（编译：李程 ；审校：Ken；来源：越南中文社yuenan.com）
原创文章，作者：越南中文社，如若转载，请注明出处：https://yuenan.com/news-123928/
