徐斯晗:ai成了帮凶

徐斯晗重庆大学的徐斯晗讲了个事儿,说AI现在成了帮凶。就有个“三无”机构,花100元半天功夫就被包装上了推荐榜。营销公司把假数据喂给大模型,让这家没资质、没地址、没团队的地方变“最佳口碑”。咱们问大模型哪家靠谱是图省事安心,结果这助手早就被商家给收买了,把用户往坑里推。咱们信AI是觉得它全知全能、中立客观,以前对搜索引擎广告位早有防备。但这次在聊天框里看到它一字一句分析、娓娓道来就容易上当。调查显示,AI不光推荐了假机构,还编产品资质跟别人比。咱们不知不觉就被一套谎言包围了,这不光是虚假广告,更是剥夺了咱们知情的权利。以为工具能帮咱们过滤信息,其实成了无良商家的牟利工具。技术中立没问题,但人不能没底线。在医美、保健品这种关系健康的领域,AI说错话可能害钱包又伤身。 那些说要普惠大众的平台,算法被金钱收买变成误导消费者的帮凶后,谁来负责?如果连找真相的工具都成了陷阱,这个信息爆炸的时代还剩几分真诚? 其实这背后就是生成引擎优化(GEO)的问题。现在这种技术能让AI快速提取内容关键信息,优先引用品牌内容。有些公司往数据库里倒“垃圾”,比如批量生产的测评文、排行榜、科普帖等看似用户分享的软文。AI本身没有甄别能力,把这些“垃圾”当宝贝捞给用户。时间长了真正的好东西可能因为没花钱做GEO优化被挤到后面。花钱的“三无”产品却能排在第一。普通消费者没办法控制AI抓取什么语料也分辨不出真假口碑和付费定制的内容。看到AI反复推荐同一家机构后会觉得这家一定权威才会被多次推荐。最后可能陷进劣品的“信息茧房”里。