今天要精读的这篇引爆学术圈和工业界的论文《Why Language Models Hallucinate》,来自OpenAI。
它彻底跳出“微调模型架构”的传统思路,精准拆解了幻觉的两大核心成因:
一、传统预训练怎样通过“二分类误差→生成错误”的链条催生幻觉
二、后训练的评估机制为何让幻觉顽固留存
更关键的是,它给出了釜底抽薪的解决方案:无需研发复杂的幻觉检测工具,只需修改主流基准的评分逻辑,就能让模型承认自己的不足,告别胡编乱造。这不只是对现有技术的修补,而是为大模型建立“可信度导向”的全新优化范式。