ai的“幻觉”是怎么生成的?

嘿,大家都在说AI现在多火,可生成的内容有时候不太靠谱,动不动就出现“幻觉”,也就是瞎编乱造。其实这也不怪它,因为它们不像人脑那样记东西,纯粹是在算概率,说白了就是个计算器,没啥判断力。虽然彻底根除这种问题不太现实,但咱能想办法少出岔子。 首先啊,你得在问问题的时候顺手把相关资料给它看看,这叫RAG(Retrieval-Augmented Generation)。把这些资料丢进去后,模型就能像翻字典一样检索一下,然后再组织成答案。这招儿能大大降低因为自己肚子里没货而出现的“幻觉”。不过这招也有个坑,就是即便用了RAG,偶尔还是会翻车。 所以归根结底,关键还得看你怎么写提示词。提示词写得好不好直接决定了大模型能不能听懂你在问啥。很多人问问题太随便了,要么想不清楚背景,要么描述得太简单,结果模型自然给不出明确的答案。 按照王珏老师的经验来看啊,高手写一个提示词大概要花70到80个字。但大部分人都没写到这个标准。只要你多花点心思把问题的背景、具体需求还有细节都写清楚了,效果肯定会好很多。 当然啦,就算你把提示词写得再好也不能保证百分百准确。毕竟“幻觉”这种事儿是天生的缺陷嘛。不过在王珏老师的实际测试里有个惊喜发现:只要按他说的那个特定写法去写提示词,结合上万字的原始资料来看生成的文档里每一个数据、观点都能对得上号。 所以啊,现在想用好AI就得学会写好提示词。这就像学一门手艺一样,得靠慢慢练和琢磨才行。只要掌握了这门技巧,不管是干活儿还是过日子都能效率翻倍还能激发点新想法呢!