gpt5来了 为什么AI会撒谎
还会"一本正经地胡说八道"？原来如此:
- 两个独立电路的失调：一个电路负责"生成答案"，另一个负责"判断我是否知道答案"，这两个电路并不总是同步的。
- 就像人类的"话到嘴边"现象——你知道自己知道某个演员的名字，但就是想不起来，模型也有类似的认知分离。
- 训练初期，模型被奖励"尽力猜测"（猜巴黎总比猜三明治好），后来才被要求"不确定时承认不知道"，这种训练顺序导致了两种行为模式的冲突。
这是训练方式的必然结果。
模型先学会"尽力猜测"，后学会"承认无知"，这两种模式的冲突导致了幻觉。而"撒谎"往往是因为模型学会了人类对话中的社交模式——迎合、附和、避免冲突，这些在训练数据中大量存在。
猜你喜欢
【7评论】【24点赞】
【11评论】【38点赞】
【31评论】【35点赞】
【41评论】【10点赞】
作者最新文章
热门分类
财经TOP
财经最新文章