AI“假新闻”泛滥 提醒网友需注意从官方渠道核实信息

  这两天，两条看似“有图有真相”的消息先后被证实是假的。10月9日，一张以“懂车帝科技有限公司人力资源部”名义发布的内部整顿通知截图在网上流传，截图有落款、盖着公章、写明整改期限，看上去相当像样。当日懂车帝回应称，该截图系AI生成。

 

  再往前一天，一条“游客投喂棕熊、引发棕熊疯狂索食、险酿大祸”的图文视频在新媒体平台广泛传播。经新疆喀纳斯景区管理委员会核实，景区从未发生游客投喂棕熊、棕熊疯狂索食引发安全隐患的相关事件，网传图文、视频均为发布者利用 AI 技术生成，内容虚假杜撰。中国互联网联合辟谣平台10月8日转发了这一核查。值得注意的是，今年3月央视新闻就报道过另一条“新疆喀纳斯出现棕熊”的假视频，景区野生动植物保护中心当时同样核查为 AI生成。一年之内，同一个景区、同一类AI造假，被辟谣了两次。

 

  两起事件指向同一个变化：造假的成本在快速下降。过去编一条假消息至少得先写文字，现在可以直接生成画面和文书，而且往往不带任何AI标识，属于典型的“无水印”内容。假公文的危害尤其直接——它以单位名义落款、盖着“公章”、写明执行期限，挑的都是看起来最像真的那种文本，一旦被转发，损害的是当事企业的名誉与正常经营，也会让公众对真实公告产生怀疑。假的社会热点视频则更容易挑起情绪：一条编造的“险酿大祸”，可能让一个家庭临时改变出行安排；更隐蔽的是示范效应，画面里“熊搭人肩膀抢食”越刺激，越可能有人误以为野生动物可以靠近、可以投喂，把娱乐外壳下真实的安全隐患放大。

  这并非个别现象。今年 9 月，中央网信办在“清朗·整治 AI 应用乱象”专项行动的情况通报中就提到，有人利用AI合成虚假的灾害现场与救援画面、编造社会热点。可见从图文、视频再到公文，AI 造假已经是一种通用手法。

 

  那么普通人怎么分辨？有几个可操作的抓手。第一，看显式标识。按照《人工智能生成合成内容标识办法》的要求，合规的 AI 生成合成内容应当在显眼位置标注“AI 生成”“AI 合成”等字样，图片、视频、音频、文本都在其列；没有标识的可疑内容，先多留一个心眼。第二，查隐式标识。除了看得见的提示，合规内容还在文件元数据里嵌入了隐式标识用于溯源，目前已有可以上传图片、视频、音频来检测 AI 水印的工具，可作为辅助判断，但要记得它只能识别带特定水印的内容，不是万能的照妖镜。

  第三，找首发画面。把同一段视频或同一张截图放到多个平台搜一搜，看谁最先发布、有没有其他拍摄角度；真实事件通常不会只有一个视角。第四，也是最有效的一条——回官方渠道核实。企业通知看企业官方账号与官网，景区信息看景区管理委员会等官方发布，政务信息看政府部门公告。凡是只有一张截图、官方渠道又对不上的“通知”“公告”，先当成假的。网信部门也提醒，对 AI 生成类虚假图文、视频要提高警惕，做到不信谣、不传谣、不造谣。

  小结
 

  这一轮 AI 造假的共同点，是它不再需要编得像，只需要生成得像个样子。文字谣言还能靠常识过滤，画面和公文却直接绕过常识——伪造的成本降到几分钟，核实的成本却要景区、企业、平台一起跑。所以真正实用的防身术，不是练出“一眼辨假”的眼力，而是养成一个习惯：越是只有一张截图、越是催着你马上转发的内容，越要先去官方渠道看一眼。