OpenAI Prompt Engineering-1. 课程介绍

OpenAI的Prompt Engineering 课程

1. 课程介绍

1.1 课程目标

首先，会学习一些软件开发的提示词最佳实践，将涵盖一些常见的用例、总结、推断、转化、扩展，然后使用 LLM 建立一个聊天机器人。

1.2 大模型的类型

大模型分为两种，基础大模型（Base LLM）和指令学习 LLM（Instruction Tuned LLM）。基础 LLM 已经被训练成基于文本训练数据来预测下一个单词，通常是通过互联网和其他来源训练大量数据，并计算下一个最可能出现的词是什么。

举个例子：

如果在基础大模型上输入：“从前有只独角兽”，他会进行补全，并预测接下来的几个词是：“和所有的独角兽朋友生活在一片神奇的森林里”。但是如果你用的是：“法国的首都是什么”作为提示词，那么它可能会根据互联网的文章，按照以下方式输出：“什么是法国的最大城市？什么是法国的人口？”等等。因为互联网的文章可能会列出关于法国的一系列小测验问题的列表。

指令学习大模型被训练得能够遵循指令完成任务，所以如果你输入提示词：“法国的首都是什么？”，它很可能输出法国的首都是巴黎。因此指令学习 LLM 的典型训练方式是基于一个经过大量文本数据训练过的基础 LLM 开始，进一步训练它，用输入和输出进一步微调它。这些输入和输出都是指令，然后经常会使用一种叫做 RLHF 的技术进一步完善，从人类反馈中进行强化学习，从而使系统能够更好地提供帮助并遵循指令。

指令学习大模型和基础大模型相比，已经被训练的相当的诚实且无害。

大部分情况下现在更推荐学习指令学习大模型。本课程也将重点介绍指令学习大模型的最佳实践。

1.3 使用大模型的准则

当使用指令学习大模型的时候，可以当做在向一个聪明但是不知道具体执行细节人发出指令。所以给大模型的提示词非常关键，这会直接影响到大模型的最后输出结果，本课程也会介绍如何清晰明确的描述提示词，这是第一个重要的 LLM 使用准则。第二个重要的 LLM 准则是给 LLM 时间来思考。