中东这个地方一闹腾，网上就有大麻烦。那些想挣钱的人，借着AI和战争混在一起，弄出一堆假视频骗人。你看那个播放量几百万几千万的，特别吓人。 以色列特拉维夫市的导弹袭击视频，背景响得要命；迪拜哈利法塔着火的视频，看着就跟真的一样。这种虚假的画面，本来大家对无人机和导弹就不放心，这下更慌了。有些人还拿卫星图造假，假装是官方发布的，比如这组对比图，左边是真的2025年2月拍的美国驻巴林海军基地照片，右边是被AI改过的假图。 除了视频，假照片也有，还有人用AI做图，假装在打捞被炸的重要人物尸体。要验证这些消息不难，但很少有人上网会去一条条查。其实大家对真假消息的敏感度也不高。外媒报道说，就算AI做的图水印很明显或者质量很差，也经常被转发。 更麻烦的是，“狼来了”的故事要重演了。如果假视频越来越多，大家就不相信网上的信息了。“记录真实”这件事也变得更难了。“如果人们不信任专业机构或者核查过的证据，那社会就可能崩溃、分裂。” 还有一点让人头疼，现在AI做图和做视频的能力进步太快。比如这组对比图，现在AI只要拿一张照片就能生成右边那样的爆炸视频。只要有一个人会用AI工具，动动手指就能弄出一堆假视频。 有的人为了骗流量挣钱起号容易得很。有些人发布假视频的初衷根本不是为了钱，而是为了别的目的。 我还听说有个巴基斯坦男子管理着31个账号轮流发这些假视频。有时候一条或者几条火了，他就能拿到分成。 有些网友会让X平台自带的AI（Grok）帮忙判断真假。但是Grok在识别AI视频上能力有限啊！很多时候它会说那些假视频是真事现场！甚至还会引用最近的新闻来“证明”它是真的！这种语气真的很容易让人相信！ 好消息是还有“老艺术家”坚持传统辟谣手艺。比如这段所谓的导弹袭击城市的视频被证实是阿尔及利亚的烟花庆祝！ X平台已经说了要给这些发布者流量暂停。情节严重的还会封号90天甚至永久封禁。 但这只是治标的办法啊！改变不了AI虚假内容到处都是的现状！ 如果想从审核角度解决问题？人力成本恐怕难以想象！（X平台现在会在AI视频下面加标注来提醒） 去年我们还在担心AI幻觉会编造虚假消息污染互联网语料库呢！现在普通人都能用AI随便制作真假难辨的视频了！ 人类的监管手段哪有AI发展快？这让人细思极恐！ 这次是AI假视频通过地域冲突来吓人。下一次可能就骗到我们身边最熟悉的日常领域了！ 能不能一眼分辨出来？还真说不清啊！