在迪肯大學7月2日舉辦的一場研討會上，專家們認為，人工智能正在改變工作方式，但保持自身競爭力的關鍵在於不與機器競爭，而是強化獨特的人類能力。
迪肯應用人工智能倡議負責人、人工智能、健康與科學教授陳傳緣指出，當前人工智能帶來的最大風險是用戶可能誤將人工智能生成的回答當作事實真相。
“當今生成式人工智能模型的一個特點是能產出非常流暢且有說服力的回答，但這並不意味著信息是準確的。這種現象被稱為‘幻覺’，即系統生成完全虛構的信息，卻將其當作事實呈現，”陳傳緣表示。
“這是目前最大的風險。我們越來越依賴人工智能工具，卻越來越難以分辨真假。更危險的是，人們很容易產生人工智能總是正確的錯覺，”他補充道。“人工智能說話時信心十足，但自信並不等於準確。當今的技術無法保證絕對正確，人工智能本身也並不真正理解它生成的內容。”
據陳傳緣介紹，這一風險在需要絕對準確的領域尤其嚴重，包括醫療、金融、安全和國防。
當被問及人工智能是否會像核武器一樣危險時，陳傳緣認為這兩種技術根本不同。核武器是人類徹底理解但具有巨大破壞力的技術；而人工智能是人類自身尚未完全理解卻正在大規模部署的技術。
在他看來，核武器建立在深厚的科學知識基礎之上，人類完全瞭解其運作原理，但其破壞力使嚴格管控成為必要。
“現代人工智能則不同。當今的大語言模型包含數千億甚至數萬億個參數，即使是構建它們的工程師也很難完全解釋模型為何會產生特定回答，”他解釋道。“人工智能的危險不在於像核武器那樣的物理破壞，而在於我們尚未完全理解其運作方式卻已大規模部署。”
河內科技大學信息與通信技術學院副院長黃氏清平贊同這一觀點，她表示，從教學和研究角度看，核心問題不再是人工智能能做什麼，而是它如何更好地支持人類。
據她介紹，人工智能無疑將在教育、研究、製造和日常生活中發揮越來越重要的作用。但人工智能更多的支持並不意味著它能完全取代人類。
“如果使用人工智能分析涉及社會福利、公共政策或公民權益的數據，輸入數據中的任何偏差或不準確都必然導致錯誤結果。問題就變成：誰應為這些決策負責？”黃氏清平表示。“人工智能在分析和綜合數據方面能力很強，但不準確的輸入必然導致不準確的輸出。在這種情況下的責任認定是我們必須特別關注的問題。儘管人工智能給工作和日常生活帶來巨大好處，我們仍需核實信息並有選擇地使用人工智能，而不是假定人工智能生成的所有輸出都是正確的。”
河內土木工程大學信息技術系計算機網絡與工程專業小組的武達清認為，核武器的危險已在歷史中充分顯現，而人工智能的許多負面影響可能只有在長期使用後才會出現。
“當這些技術首次出現時，社會主要關注其好處。然而，經過二三十年的大規模普及，許多國家出於對青少年心理健康和成長影響的擔憂，出臺了限制兒童在校使用智能手機和社交媒體的規定，”他以智能手機和社交媒體為例說道。
在他看來，人工智能可能遵循類似的軌跡。儘管該技術目前帶來巨大好處，但社會仍需時間來充分理解可能出現的長期後果。
“許多技術最初帶來巨大好處，但多年後我們才充分認識到其意外的負面影響。應同樣看待人工智能：在享受好處的同時，對其長期風險保持謹慎，”他表示。
教育培訓部科技信息司副司長陳南秀指出了人工智能時代教育的兩個並行使命。
“人工智能必須成為教育轉型的驅動力，幫助提高教學質量，實現個性化學習，支持教師，實現教育治理現代化，並擴大全民優質教育覆蓋面，”陳南秀表示。“教育必須通過培養高素質勞動者、建設強大研究團隊、促進創新和開發有競爭力的越南製造人工智能技術，成為發展國家人工智能能力的基礎。”
為實現這一願景，陳南秀建議越南聚焦若干戰略重點。
“我們正在構建國家智慧教育生態系統，將教育數據、數字學習資源、人工智能工具、評估系統和治理平臺連接為開放、安全、可共享的基礎設施，”他說。“我們的目標不是開發單一軟件應用，而是創建能促進整個教育系統創新的綜合數字基礎。”
教育培訓部提出的第二個優先事項是培養人工智能時代的教師。
“我們認為人工智能不會取代教師。相反，人工智能應作為支持工具，幫助教師減少重複性工作，將更多時間用於創造性、啟發性、批判性思維和學習者的全面發展。教育的核心價值仍將以人為本，”陳南秀表示。
“我們的第三個優先事項是培養高素質人工智能人才。越南正在擴大人工智能、數據科學、半導體及其他戰略技術領域的教育和培訓，”陳南秀補充道。“我們正在推進跨學科教育，將人工智能融入醫療、農業、教育、智能製造和公共治理。我們的目標是讓所有學習者具備數字和人工智能素養，同時培養能夠研究、開發和掌握先進人工智能技術的專家人才庫。”
越南中文社
