研究：AI大型语言模型越聪明就越有可能编造事实

格隆汇9月29日｜据IT之家，一项新研究发现，随着大型语言模型(LLM)变得越来越强大，它们似乎也越来越容易编造事实，而不是避免或拒绝回答它们无法回答的问题。该研究发表在《自然》杂志上，研究人员研究了一些业界领先的商业LLM：OpenAI的GPT和Meta的LLaMA，以及由研究小组BigScience创建的开源模型BLOOM。研究发现，虽然这些LLM的回答在许多情况下变得更加准确，但总体上可靠性更差，给出错误答案的比例比旧模型更高。研究人员称，解决这些问题最简单的方法是让LLM不那么急于回答一切，可以设置一个阈值，当问题具有挑战性时，让聊天机器人说“不，我不知道”，但如果聊天机器人被限制为只回答它们知道的东西，可能会暴露技术的局限性。