在迪肯大学7月2日举办的一场研讨会上，专家们认为，人工智能正在改变工作方式，但保持自身竞争力的关键在于不与机器竞争，而是强化独特的人类能力。
迪肯应用人工智能倡议负责人、人工智能、健康与科学教授陈传缘指出，当前人工智能带来的最大风险是用户可能误将人工智能生成的回答当作事实真相。
“当今生成式人工智能模型的一个特点是能产出非常流畅且有说服力的回答，但这并不意味着信息是准确的。这种现象被称为‘幻觉’，即系统生成完全虚构的信息，却将其当作事实呈现，”陈传缘表示。
“这是目前最大的风险。我们越来越依赖人工智能工具，却越来越难以分辨真假。更危险的是，人们很容易产生人工智能总是正确的错觉，”他补充道。“人工智能说话时信心十足，但自信并不等于准确。当今的技术无法保证绝对正确，人工智能本身也并不真正理解它生成的内容。”
据陈传缘介绍，这一风险在需要绝对准确的领域尤其严重，包括医疗、金融、安全和国防。
当被问及人工智能是否会像核武器一样危险时，陈传缘认为这两种技术根本不同。核武器是人类彻底理解但具有巨大破坏力的技术；而人工智能是人类自身尚未完全理解却正在大规模部署的技术。
在他看来，核武器建立在深厚的科学知识基础之上，人类完全了解其运作原理，但其破坏力使严格管控成为必要。
“现代人工智能则不同。当今的大语言模型包含数千亿甚至数万亿个参数，即使是构建它们的工程师也很难完全解释模型为何会产生特定回答，”他解释道。“人工智能的危险不在于像核武器那样的物理破坏，而在于我们尚未完全理解其运作方式却已大规模部署。”
河内科技大学信息与通信技术学院副院长黄氏清平赞同这一观点，她表示，从教学和研究角度看，核心问题不再是人工智能能做什么，而是它如何更好地支持人类。
据她介绍，人工智能无疑将在教育、研究、制造和日常生活中发挥越来越重要的作用。但人工智能更多的支持并不意味着它能完全取代人类。
“如果使用人工智能分析涉及社会福利、公共政策或公民权益的数据，输入数据中的任何偏差或不准确都必然导致错误结果。问题就变成：谁应为这些决策负责？”黄氏清平表示。“人工智能在分析和综合数据方面能力很强，但不准确的输入必然导致不准确的输出。在这种情况下的责任认定是我们必须特别关注的问题。尽管人工智能给工作和日常生活带来巨大好处，我们仍需核实信息并有选择地使用人工智能，而不是假定人工智能生成的所有输出都是正确的。”
河内土木工程大学信息技术系计算机网络与工程专业小组的武达清认为，核武器的危险已在历史中充分显现，而人工智能的许多负面影响可能只有在长期使用后才会出现。
“当这些技术首次出现时，社会主要关注其好处。然而，经过二三十年的大规模普及，许多国家出于对青少年心理健康和成长影响的担忧，出台了限制儿童在校使用智能手机和社交媒体的规定，”他以智能手机和社交媒体为例说道。
在他看来，人工智能可能遵循类似的轨迹。尽管该技术目前带来巨大好处，但社会仍需时间来充分理解可能出现的长期后果。
“许多技术最初带来巨大好处，但多年后我们才充分认识到其意外的负面影响。应同样看待人工智能：在享受好处的同时，对其长期风险保持谨慎，”他表示。
教育培训部科技信息司副司长陈南秀指出了人工智能时代教育的两个并行使命。
“人工智能必须成为教育转型的驱动力，帮助提高教学质量，实现个性化学习，支持教师，实现教育治理现代化，并扩大全民优质教育覆盖面，”陈南秀表示。“教育必须通过培养高素质劳动者、建设强大研究团队、促进创新和开发有竞争力的越南制造人工智能技术，成为发展国家人工智能能力的基础。”
为实现这一愿景，陈南秀建议越南聚焦若干战略重点。
“我们正在构建国家智慧教育生态系统，将教育数据、数字学习资源、人工智能工具、评估系统和治理平台连接为开放、安全、可共享的基础设施，”他说。“我们的目标不是开发单一软件应用，而是创建能促进整个教育系统创新的综合数字基础。”
教育培训部提出的第二个优先事项是培养人工智能时代的教师。
“我们认为人工智能不会取代教师。相反，人工智能应作为支持工具，帮助教师减少重复性工作，将更多时间用于创造性、启发性、批判性思维和学习者的全面发展。教育的核心价值仍将以人为本，”陈南秀表示。
“我们的第三个优先事项是培养高素质人工智能人才。越南正在扩大人工智能、数据科学、半导体及其他战略技术领域的教育和培训，”陈南秀补充道。“我们正在推进跨学科教育，将人工智能融入医疗、农业、教育、智能制造和公共治理。我们的目标是让所有学习者具备数字和人工智能素养，同时培养能够研究、开发和掌握先进人工智能技术的专家人才库。”
（编译：Ivy；审校：Ken；来源：越南中文社yuenan.com）
原创文章，作者：越南中文社，如若转载，请注明出处：https://yuenan.com/news-119605/
