在发布后的三个月里，ChatGPT 能够对范围广泛的问题生成类似人的、连贯的和信息丰富的回答，这使得 OpenAI 对话式大型语言模型 (LLM) 从好奇变成了吸引公众讨论 AI 优缺点的磁石。虽然有很多赞誉，但也有严重的担忧——特别是关于 ChatGPT 偶尔产生误导性或事实不正确的反应，这被描述为“幻觉”。这些担忧以及 ChatGPT 无法访问互联网来更新其知识，导致一些人认为此类 LLM 还没有为现实世界的关键任务应用程序做好准备。
在新论文Check Your Facts and Try Again: Improving Large Language Models with External Knowledge and Automated Feedback 中，Microsoft Research 和哥伦比亚大学团队介绍了 LLM-Augmenter，这是一个使用一组即插即用的方法增强黑盒 LLM 的系统播放模块以显着提高他们响应的真实性。
该团队总结了他们的主要贡献如下：
- 我们介绍了 LLM-Augmenter，以使用 PnP 模块使用外部知识和自动反馈来改进 LLM。
- 我们进行了一项实证研究，以使用两种类型的关键任务任务、信息搜索对话和开放域 Wiki 问答 (Wiki QA) 来验证 LLM-Augmenter 的有效性。
LLM-Augmenter 过程包括三个步骤：1) 给定用户查询，LLM-Augmenter 首先从外部知识源（例如网络搜索或任务特定数据库ÿ
本文链接：https://my.lmcjl.com/post/6515.html
展开阅读全文
4 评论