社交媒体上的AI迷魂阵

大多数AI内容都利用吸引注意力的主题，如跳伞的狗、自然灾害、海洋怪物，甚至编造情境以抹黑职能部门的形象。

泛滥的AI低俗视频旨在博取点击和点赞

最近，浏览抖音或脸书等平台时，不难遇到内容极其“耸人听闻”的视频。在一个由账户“T.H农场”发布的视频中，标题为“我的迷你麻糬猫”，画面显示一名女子将一只小猫放在手掌心，用细塑料管给猫喂奶，并配有解说字幕：

“一只只有约10厘米长的迷你小猫，我把它养在水族箱里。体型虽小，但照顾需求相当细致：土壤必须保持温暖，要有大量苔藓和轻柔水流，让它既能玩耍又能喝水。我每天喂食三次，主要是温牛奶和鸡肉泥粥”。

在评论部分，该账户附上了许多产品链接以招揽购买。值得注意的是，尽管账户主页信息标注为“AI内容创作频道、乡村农场、娱乐”，但视频下方完全没有告知观众这是AI生成的内容。

同样浏览社交媒体，阮氏秋水（胡志明市）表示：“我刚看到一个视频，拍摄的是中部海域出现巨型怪物的场景，画面逼真到我差点信以为真，直到看到评论警告这是AI产品”。

实际上，并非所有人都像秋水那样清醒。对于老年人或较少接触技术的人来说，这些视频是一个完美的陷阱。更危险的是，许多账户还使用AI来剪辑、编造关于职能部门的不实情境，以煽动和抹黑。

在另一个由账户“T.Đ”发布的视频中，内容抹黑职能部门形象，但未附注说明视频由AI生成。许多细心者发现了视频中的异常之处，从招牌上模糊不清的无意义文字、晴天穿雨衣的交通参与者，到画面中多次重复出现的人物，并迅速确认这是AI内容。

然而，也有不少人留下评论表达愤怒，辱骂职能部门，只因相信了一个...不真实的内容。阮氏碧女士（60岁，胡志明市）回忆道：“我看到一个视频，一名警察站着对民众吼叫，图像非常清晰，声音也很真实。我以为是真的，所以气愤地分享给朋友，后来儿子告诉我那是电脑制作的假图像，我才恍然大悟”。

难以估量的危害

根据Chongluadao.vn网站2026年初的报告，越南2025年在线诈骗造成的损失估计已超过6万亿越南盾。其中，使用深度伪造技术冒充亲属或税务、公安干部的“AI化”诈骗，已成为移动设备上最大的风险面。

该网站还预测，到2026年，深度伪造和语音克隆技术已发展到能以低成本、短时间创建近乎完美的伪造视频和语音。因此，只需几秒钟的原始录音或视频（易于从社交媒体获取），犯罪分子即可伪造来自亲属、同事或领导的假视频通话；复制首席执行官声音要求会计紧急转账；冒充银行职员、公安干部通过视频通话增加可信度...

与《青年报》交流时，许多技术专家认为，AI生成内容的爆发正在网络空间制造一场信息迷魂阵，真实与虚拟之间的界限变得前所未有的模糊。生成式AI技术目前已达到近乎完美模拟动作和光照的水平。

当这些内容传播时，它们不仅停留在娱乐层面，还可能被利用来引导舆论、谋取经济利益或实施精密诈骗行为。

更可怕的是，当前社交媒体算法优先推荐令人震惊的内容（即使是AI生成的），无意中助长了传播怪异视频（怪物、假自然灾害）以博取点击、获取广告收益的行为。用户，尤其是老年人和对技术了解较少的人，很容易被AI干预的内容“牵着鼻子走”。

例如，用逼真的图像、视频来图解假新闻，容易让民众陷入“数字困惑”状态，不知该相信什么，甚至对来自媒体和政府机构的官方信息也产生怀疑。特别是，不良分子可能利用老年人的轻信和技术知识缺乏，制造金融诈骗剧本或歪曲职能部门的信誉，破坏稳定秩序。

从网络安全角度看，专家警告一种新的“犯罪经济”。AI不再是孤立工具，而是已进入诈骗“工业化”阶段。如果以前犯罪分子需要花费数小时说服受害者，现在AI聊天机器人可以24/7运行，同时与数千人互动，采用个性化剧本和虚假同情来赢得信任。

最严重的后果不仅是金钱损失，还有社会信任的侵蚀。当假新闻用“如真”视频来图解时，公众将逐渐陷入对所有事物的怀疑状态，包括来自媒体和政府机构的官方信息。

AI生成的“垃圾”防护盾

2025年底，河内市公安局网络安全与高科技犯罪预防处对V.T.Đ.（河内）——YouTube频道“老年音频”（原名“越南奇案音频（老年音频）”）的管理员，处以行政处罚，因其行为“提供、分享虚假信息、不实信息、歪曲、诽谤、侮辱机构、组织信誉及个人名誉、尊严”。

此前，Đ.经常发布AI生成的谋杀过程和公安破案图像视频。目的是吸引大量观众，从YouTube赚取广告收入。例如，2025年11月6日发布的视频标题为“章美震惊”，内容是不存在的案件，但Đ.使用AI编写剧本并制作，引起舆论恐慌并误导观众。

面对AI“垃圾”泛滥的现状，2026年3月正式生效的《AI法》被视为及时的“防护盾”。该法最引人注目的点之一是强制标签内容的规定。据此，完全或部分由AI生成的图像、音频或视频产品，必须清晰标注识别标签以供观众知晓。

法律禁止使用AI进行欺骗、操纵人类认知行为，特别是利用弱势群体如老年人、儿童。法律还要求社交媒体平台有责任审查并移除具有欺诈性或违法的AI内容。

此外，2025年《网络安全法》（自2026年7月1日生效）也禁止使用AI或新技术伪造他人视频、图像、语音，创建/发布/传播不实信息，引起舆论恐慌或侵犯名誉、尊严。

（编译：Jon 越南网；审校：Fang；来源：越南中文社）