文章目录

• 前言
• 一、引言
• 二、基本提示
• 三、LLM设置说明
• 四、标准提示
• 五、提示的组成要素
• 六、设计提示的通用技巧
• • 从简单开始
  • 指令
  • 具体性
  • 避免不准确性
  • 做还是不做？
• 总结

前言

随着ChatGPT的大火，提示工程在大模型中的重要性不言而喻，本文参考国外Prompt Engineering Guide完成国内中文版本的《提示工程指南》，希望能够和大家一起交流，分享及发现提示工程的美妙之处。文章所有内容可以在ChatGPT_Prompt_Chinese中找到。

一、引言

提示工程学是一门相对较新的学科，用于开发和优化提示，以便高效地利用语言模型（LM）来进行各种应用和研究主题。提示工程技能有助于更好地了解大型语言模型（LLM）的能力和限制。研究人员使用提示工程来改善LLM在各种常见和复杂任务上的能力，例如问答和算术推理。开发人员使用提示工程来设计与LLM和其他工具接口的强大和有效的提示技术。

本指南介绍标准提示的基础知识，以提供如何使用提示与指导大型语言模型（LLM）进行交互和指导的大致概念。

除非另有说明，否则所有示例均使用chatgpt进行测试，所以输出内容和国外版本的文档有些出入。Prompt Engineering Guide的测试环境是text-davinci-003（使用OpenAI的playground进行测试）。它使用默认配置，例如temperature=0.7和top-p=1。

二、基本提示

您已经可以通过提示实现很多功能，但结果的质量取决于您提供的信息量。提示可以包含信息，例如您传递给模型的指令或问题，以及包括其他细节，例如输入或示例。

以下是一个简单提示的基本示例：

Prompt：

Output：

正如您所看到的，语言模型根据 “天空是” 的上下文输出了一个问句。输出可能会出乎意料，或者远离我们想要实现的任务。

这个基本示例也突出了提供更多关于我们具体想要实现什么任务的上下文或说明的必要性。

让我们试着改进一下：

Prompt:

Output:

这样是不是更好了？我们告诉模型完成句子，因此结果看起来好多了，它恰好遵循了我们告诉它要做的（“完成句子”）。这种设计最佳提示以指导模型执行任务的方法被称为提示工程。

以上示例是当前语言模型可能的基本示例。当前的语言模型能够执行各种高级任务，从文本摘要到数学推理再到代码生成等等。

三、LLM设置说明

说明：这部分内容主要是针对davinci-003环境，本文演示的chatgpt已经是一个较成熟的产品了，因为不具备超参调节的功能

在使用提示时，您将通过API或直接与LLM进行交互。您可以配置一些参数以获得不同的提示结果。

• Temperature- 简而言之，温度越低，结果越确定，即始终选择最可能的下一个标记。增加温度可能会导致更多的随机性，从而鼓励更多多样化或创造性的输出。我们基本上是增加了其他可能标记的权重。在应用方面，我们可能希望在基于事实的问答（QA）中使用较低的温度，以鼓励更多基于事实和简洁的回答。对于诗歌生成或其他创意任务，增加温度可能会有所好处。

• Top_p - 同样，通过top_p进行采样，使用称为核采样的温度采样技术，您可以控制模型在生成响应时的确定性。如果您正在寻找准确和真实的答案，请保持较低。如果您希望获得更多样化的响应，请增加到较高的值。

一般建议是只更改其中一个参数而不是两个都更改。

在开始一些基本示例之前，请记住，您的结果可能会因您使用的LLM版本而有所不同。

四、标准提示

我们尝试了一个非常简单的提示。标准提示的格式如下：

这可以转换成QA格式，这在许多QA数据集中是标准格式，如下所示：

鉴于上述标准格式，一种流行且有效的提示技术被称为Few-shot提示，其中我们提供示例。Few-shot提示的格式如下：

你已经猜到了，其QA格式的版本如下所示：

请注意，我们在实际场景中并不一定需要使用QA格式。具体的格式取决于手头的任务。例如，您可以执行一个简单的分类任务，并给出演示该任务的实例，如下所示：

Prompt：

Output：

Few-shot提示使得在上下文学习中成为可能，即语言模型仅通过少量的示例就可以学习任务。我们将在即将发布的指南中看到更多这方面的内容。

五、提示的组成要素

随着我们越来越多地涉及提示工程的例子和应用，您会注意到组成提示的某些要素。

提示可以包含以下任何组成部分：

指令 - 您想让模型执行的具体任务或指令

上下文 - 可以涉及外部信息或附加上下文，可以引导模型做出更好的响应

输入数据 - 是我们有兴趣找到响应的输入或问题

输出指示 - 表示输出的类型或格式。

并非所有组成部分都是提示所必需的，格式取决于手头的任务。我们将在后面发布的指南中涉及更多具体的示例。

六、设计提示的通用技巧

以下是在设计提示时应牢记的一些技巧：

从简单开始

当您开始设计提示时，应牢记这是一个迭代的过程，需要大量的试验才能获得最佳结果。使用像OpenAI或Cohere这样的简单实验场所是一个很好的起点。

您可以从简单的提示开始，随着您的目标越来越明确，逐渐添加更多的元素和背景。在这个过程中进行版本控制非常重要。在我们阅读本指南时，您会看到许多例子表明，明确、简洁和精确通常会给您带来更好的结果。

当您有一个涉及许多不同子任务的大型任务时，可以尝试将任务分解为更简单的子任务，并随着您获得更好的结果而逐步构建。这避免了在提示设计过程中添加过多的复杂性。

指令

通过使用指令来指导模型进行各种简单任务的设计，例如“写入”、“分类”、“总结”、“翻译”、“排序”等。

请记住，您还需要进行大量的实验，以查看哪种方法最有效。尝试使用不同的指令、关键字、上下文和数据，看看什么对您的特定用例和任务最有效。通常，上下文对于您尝试执行的任务越具体和相关，效果越好。我们将在即将推出的指南中介绍采样和添加更多上下文的重要性。

其他人建议将指令放在提示的开头。建议使用一些清晰的分隔符，如“###”，来分隔指令和上下文。

例如：

Prompt:

Output：

具体性

在指示和任务上要非常具体。提示越详细，结果就越好。当您需要特定的输出或生成风格时，这一点尤其重要。并不存在能够导致更好结果的特定标记或关键字。拥有良好的格式和描述性的提示更加重要。实际上，在提示中提供示例非常有效，这样可以获得特定格式的所需输出。

设计提示时，您还应牢记提示的长度，因为长度存在一定的限制。需要考虑具体和详细的程度。并不是无用细节越多越好，而是应当与任务有关并有助于完成任务的相关细节越多越好。这是需要进行大量实验和迭代以优化应用程序的提示的一个方面。

例如，让我们尝试从一段文本中提取特定信息的简单提示。

Prompt：

Output:

输入文本取自Nature文章。

避免不准确性

根据上述关于详细说明和改善格式的提示，很容易陷入想要变得过于聪明的陷阱，从而可能创建不精确的描述，因此直接和具体的描述往往更好。这里的类比与有效沟通非常相似–越直接，信息就越能有效传达。

例如，您可能有兴趣了解提示工程的概念。您可以尝试像这样的东西：

从上面的提示中无法清楚地了解使用多少句话以及采用什么样的风格。您可能仍然可以获得良好的响应，但更好的提示是非常具体，简明扼要和直截了当的。例如：

做还是不做？

设计提示的另一个常见技巧是避免说明不要做什么，而是说明要做什么。这鼓励更具体化和更专注于细节，从而获得模型的良好响应。

以下是电影推荐聊天机器人的示例，因为我的指令的表述方式而未能成功做到我不想做的事情 - 焦点在于避免做什么。

Prompt：

Output：

可能ChatGPT相比于davinci-3做了些优化，使得回答更加准确了。。。。

这是一个更好的提示：

Prompt：

Output：

总结

本文主要介绍了提示工程的一些基本示例，下一章会介绍一些基本的提示。

本文链接：https://my.lmcjl.com/post/8720.html