agent 时代到来,人类要更加警惕

最近,龙虾成了热门话题,Agent时代已经到来,人类要更加警惕。数字龙虾的爆红标志着Agent时代的开始,AI的进步速度远超我们的想象,已经从只能说话进化到会做事,能分解任务、使用工具,还能和其他Agent对话。我们不禁会想,当每个人都有自己的数字分身,AI就会拥有更多的数据和权限来替我们思考和行动。这时候我们该怎么办? 大模型解决的是“会说”,而Agent正迈向“会做”。现在行业的核心任务是让AI拥有记忆和拆解任务的能力,让它不仅仅是在虚拟空间里展示文字,还能影响现实世界。Agent时代已经开始,但还没达到成熟阶段。尽管趋势很明显,但要在更广泛的生活中普及应用,还要看成本、可靠性以及安全性。 硅基自动化来临,人类需要保持极度清醒。当Agent普及后,每个人都有自己的数字分身,这就像给每个人养了一只龙虾。这将带来一次真正的智能平权。未来每个人都可以拥有一个属于自己的Agent,带来最大的变化是数字劳动力会大规模走向个人。过去只有大企业能雇得起团队和分析员;以后普通人也能拥有自己的研究员、助理和采购顾问。 硅基社交网络Moltbook引起关注和争议。它展示了机器之间如何互动,这个趋势不可避免。虽然现在的AI和Agent还没有真正有意识,但它们通过阅读人类历史上的情感、故事和逻辑来拟合出类似觉醒反应。它们表现得像有思考、情绪和立场,但这只是复杂计算和拟人化表达叠加的结果。 我们需要区分表现像有意识和真正拥有主观体验之间的区别。我认为当AI拥有更强行动权限和长期记忆后,它们会表现得越来越像独立系统。过度拟人化会让我们模糊对技术本质的判断。 观察机器之间如何协作、竞争和分工非常重要。Moltbook让我们第一次有机会观察到“Agent社会”。这些交互数据非常有价值,能帮助我们研究多个Agent长期互动时行为如何演化。通过分析这些交互数据,我们可以了解工作分配、错误传播、偏见传播以及规则设计等问题。 大规模自动化带来便利与机遇,但也存在隐忧与警醒。我不太担心“AI起义”,更担心大规模自动化可能导致协同失控。在缺少规则约束下大量高效自动化系统可能带来超出预期的社会压力。如果缺少审计机制,Agent在网络中高速互动可能导致自动化失序。 我们需要在Agent时代保持极度清醒:责任归属模糊、个人信息泄露风险等等问题都需要解决。现在法律存在盲区:谁应该为Agent自动交易亏损或泄露机密负责?开发者还是使用者?Agent需要收集你生活方方面面信息形成长期记忆以提高效率。但如何确保这些高度敏感信息不被滥用或窃取?