『大语言模型』仍无法可靠区分信念与事实(语言模型lm)

【『大语言模型』仍无法可靠区分信念与事实】财联社11月7日电，在最新一期《自然·机器智能》发表的一篇论文中，美国『斯坦福大学』研究提醒：『大语言模型』（LLM）在识别用户错误信念方面存在明显局限性，仍无法可靠区分信念还是事实。研究表明，当用户的个人信念与客观事实发生冲突时，LLM往往难以可靠地作出准确判断。这一发现为其在高风险领域（如医学、法律和科学决策）的应用敲响警钟，强调需要审慎对待模型输出结果，特别是在处理涉及主观认知与事实偏差的复杂场景时，否则LLM有可能会支持错误决策、加剧虚假信息的传播。