主权人工智能与人工监督是越南数字政府安全的关键

构建包容、可信的数字公共服务，哪些原则至关重要？

我认为特别重要的第一条原则是，让公民真正参与公共决策。这并不总是容易或直接，尤其是当像越南这样的国家正以非常快的速度推进数字化转型时。然而，让公民和公职人员都参与公共决策和数字化转型进程，将是未来成功的关键。

公职人员需要参与决策，他们的需求必须得到恰当传达和考虑。他们应该有机会表达自己的需求，并指出工作中遇到的困难和挫折。通过确保这些需求和关切被听到，公职人员可以真正融入数字项目，并被置于数字化转型进程的核心。

第二条原则是对公民负责。这意味着不仅要确保数字战略本身的透明度，还要确保数字化转型过程中使用的公共部门算法的透明度。

开放数据如何支持法国的数字化转型？越南可以从这一经验中吸取哪些教训？

公共数据的开放已在法国取得真正成功。得益于此，我们能够在法国乃至整个欧洲制定非常有效的人工智能战略。因此，开放公共数据并促进政府机构之间的数据流动，是数字化转型的核心。

这一点很重要，因为开放公共数据还能释放经济价值，并创造开发新服务的机会。例如，天气数据以及出行和交通数据可用于创建新服务。企业可以访问新的数据集，并利用它们开发新服务和解决方案。

因此，开放数据带来了重大的经济机遇。它还在推动有效人工智能发展方面发挥重要作用，而有效人工智能依赖于高质量数据和开放标准的使用。这些要素对于让数据可用于并适用于新服务和人工智能应用的开发至关重要。

政府和企业在确保数字化转型保持包容性方面应该做些什么？

公职人员在执行公务时广泛使用免费可用的商业人工智能平台，会给信息安全和数据保密带来重大风险。

为应对这种情况，第一步是审查政府机构中人工智能的实际使用情况。这应包括确定谁在使用人工智能、用于什么目的，以及相关工具是主权人工智能系统还是不受监管的商业人工智能工具，从而建立人工智能使用管理图谱。

在此基础上，应研究并制定由相关机构内部设计的主权人工智能模型提案，以取代对外部平台的无差别使用。

此外，人工智能系统可能出现幻觉，生成不准确的答案或包含偏见和偏差的回应。如果没有从一开始就建立严格的监督机制，这些模型可能导致严重的运营事故。

法国有一个专门机构，作为独立实验室，在人工智能解决方案和算法部署前对其进行审计。

该机构评估人工智能解决方案是否符合透明度、可解释性和可追溯性标准，从而确保政府机构对其信息系统保持完全控制。

在公共服务中部署人工智能的基本原则是保持人工审查、监督和批准。

人类必须直接核查人工智能使用的数据来源，以防止幻觉和信息不准确。根据每个人工智能模型的风险水平，管理者应适用相应的严格标准和监管要求。人工智能模型越可解释、越透明，就越容易满足其实际部署所适用的法律要求。

技术进步越显著，就越有可能排斥那些对新技术、其运作方式以及它们如何促进公共决策没有足够了解的人。

使数字化转型更具包容性的一种方法是建立共同标准，并在公民中推广共同的伦理框架。还应向公职人员提供清晰的指导方针和章程，这些内容可以转化为人人都能理解的语言。

此外，公共网站应方便残疾人访问。这应得到关于在线公共服务无障碍性的立法支持，有助于确保有需要的人能够使用数字公共服务。

（编译：Jon；审校：Woo；来源：越南中文社yuenan.com）