2025/12/30 19:08:14
网站建设
项目流程
赚钱的十大个人网站,php网站开发经典教材,武宁网站ui专业设计,wordpress 用户权限 插件主旨
提示工程是一门新兴的关键技能#xff0c;旨在通过设计和优化提示词#xff0c;帮助用户最大化语言模型的效用#xff0c;并将其有效应用于研发与实践。
1. 目的与价值
它帮助用户更好地理解大型语言模型的能力与局限性。对于研究人员#xff1a;可提升模型处理复杂任…主旨提示工程是一门新兴的关键技能旨在通过设计和优化提示词帮助用户最大化语言模型的效用并将其有效应用于研发与实践。1. 目的与价值它帮助用户更好地理解大型语言模型的能力与局限性。对于研究人员可提升模型处理复杂任务如问答、算术推理的性能。对于开发者能设计和开发强大应用实现与大语言模型及其生态的高效集成。2 本指南内容介绍提示词的基础知识。指导用户如何通过提示词与语言模型进行有效交互。3. 模型设置Temperature简单来说temperature 的参数值越小模型就会返回越确定的一个结果。如果调高该参数值大语言模型可能会返回更随机的结果也就是说这可能会带来更多样化或更具创造性的产出。调小temperature实质上你是在增加其他可能的 token 的权重。在实际应用方面对于质量保障QA等任务我们可以设置更低的 temperature 值以促使模型基于事实返回更真实和简洁的结果。 对于诗歌生成或其他创造性任务适度地调高 temperature 参数值可能会更好。Top_p同样使用 top_p与 temperature 一起称为核采样nucleus sampling的技术可以用来控制模型返回结果的确定性。如果你需要准确和事实的答案就把参数值调低。如果你在寻找更多样化的响应可以将其值调高点。使用Top P意味着只有词元集合tokens中包含top_p概率质量的才会被考虑用于响应因此较低的top_p值会选择最有信心的响应。这意味着较高的top_p值将使模型考虑更多可能的词语包括不太可能的词语从而导致更多样化的输出。一般建议是改变 Temperature 和 Top P 其中一个参数就行不用两个都调整。Max Length您可以通过调整 max length 来控制大模型生成的 token 数。指定 Max Length 有助于防止大模型生成冗长或不相关的响应并控制成本。Stop Sequencesstop sequence 是一个字符串可以阻止模型生成 token指定 stop sequences 是控制大模型响应长度和结构的另一种方法。例如您可以通过添加 “11” 作为 stop sequence 来告诉模型生成不超过 10 个项的列表。Frequency Penaltyfrequency penalty 是对下一个生成的 token 进行惩罚这个惩罚和 token 在响应和提示中已出现的次数成比例 frequency penalty 越高某个词再次出现的可能性就越小这个设置通过给 重复数量多的 Token 设置更高的惩罚来减少响应中单词的重复。Presence Penaltypresence penalty 也是对重复的 token 施加惩罚但与 frequency penalty 不同的是惩罚对于所有重复 token 都是相同的。出现两次的 token 和出现 10 次的 token 会受到相同的惩罚。 此设置可防止模型在响应中过于频繁地生成重复的词。 如果您希望模型生成多样化或创造性的文本您可以设置更高的 presence penalty如果您希望模型生成更专注的内容您可以设置更低的 presence penalty。与 temperature 和 top_p 一样一般建议是改变 frequency penalty 和 presence penalty 其中一个参数就行不要同时调整两个。在我们开始一些基础示例之前请记住最终生成的结果可能会和使用的大语言模型的版本而异。4. 基本概念提示词Prompts是传递给模型的信息集合可包含指令、问题、上下文、示例等其信息完善度直接影响输出质量。聊天模型的角色设定支持三个角色system非必需用于设定模型整体行为、user用户输入可直接作为提示词、assistant模型响应也可用于提供行为示例。提示词格式与类型标准格式分为「问题式」如问题?或「指令式」如指令也可采用 QA 格式Q: 问题? A: 。零样本提示无需提供任务示例直接让模型回答如What is prompt engineering?依赖模型自身能力适用于简单任务。少样本提示提供任务示例示范辅助模型理解格式可灵活调整如分类任务中列出正负向示例能提升复杂任务的执行效果。5. 提示词要素指令想要模型执行的特定任务或指令。上下文包含外部信息或额外的上下文信息引导语言模型更好地响应。输入数据用户输入的内容或问题。输出指示指定输出的类型或格式。示例请将文本分为中性、否定或肯定 文本我觉得食物还可以。 情绪解释在上面的提示示例中指令是“将文本分类为中性、否定或肯定”。输入数据是“我认为食物还可以”部分使用的输出指示是“情绪”。请注意此基本示例不使用上下文但也可以作为提示的一部分提供。例如此文本分类提示的上下文可以是作为提示的一部分提供的其他示例以帮助模型更好地理解任务并引导预期的输出类型。6. 设计提示的通用技巧第一条技巧从简单开始从简单的提示词逐步添加完善你可以从简单的提示词开始并逐渐添加更多元素和上下文因为你想要更好的结果。因此在这个过程中不断迭代你的提示词是至关重要的。阅读本指南时你会看到许多示例其中具体性、简洁性和简明性通常会带来更好的结果。当你有一个涉及许多不同子任务的大任务时可以尝试将任务分解为更简单的子任务并随着结果的改善逐步构建。这避免了在提示设计过程中一开始就添加过多的复杂性。第二条技巧 使用指令你可以使用命令来指示模型执行各种简单任务例如“写入”、“分类”、“总结”、“翻译”、“排序”等从而为各种简单任务设计有效的提示。请记住你还需要进行大量实验以找出最有效的方法。以不同的关键词keywords上下文contexts和数据data试验不同的指令instruction看看什么样是最适合你特定用例和任务的。通常上下文越具体和跟任务越相关则效果越好。在接下来的指南中我们将讨论样例和添加更多上下文的重要性。有些人建议将指令放在提示的开头。另有人则建议是使用像“###”这样的清晰分隔符来分隔指令和上下文。示例### 指令 ### 将以下文本翻译成西班牙语 文本“hello”第三条技巧具体性要非常具体地说明你希望模型执行的指令和任务。提示越具描述性和详细结果越好。特别是当你对生成的结果或风格有要求时这一点尤为重要。不存在什么特定的词元tokens或关键词tokens能确定带来更好的结果。更重要的是要有一个具有良好格式和描述性的提示词。事实上在提示中提供示例对于获得特定格式的期望输出非常有效。在设计提示时还应注意提示的长度因为提示的长度是有限制的。想一想你需要多么的具体和详细。包含太多不必要的细节不一定是好的方法。这些细节应该是相关的并有助于完成手头的任务。这是你需要进行大量实验的事情。我们鼓励大量实验和迭代以优化适用于你应用的提示。示例提取以下文本中的地名。所需格式地点逗号分隔的公司名称列表输入“虽然这些发展对研究人员来说是令人鼓舞的但仍有许多谜团。里斯本未知的香帕利莫德中心的神经免疫学家 Henrique Veiga-Fernandes 说“我们经常在大脑和我们在周围看到的效果之间有一个黑匣子。”“如果我们想在治疗背景下使用它我们实际上需要了解机制。””第四条技巧避免不明确给定上述关于详细描述和改进格式的建议很容易陷入陷阱想要在提示上过于聪明从而可能创造出不明确的描述。通常来说具体和直接会更好。这里的类比非常类似于有效沟通——越直接信息传达得越有效。例如你可能有兴趣了解提示工程的概念。你可以尝试这样做解释提示工程的概念。保持解释简短只有几句话不要过于描述。从上面的提示中不清楚要使用多少句子以及什么风格。尽管你可能仍会从上述提示中得到较好的响应但更好的提示应当是非常具体、简洁并且切中要点的。例如使用 2-3 句话向高中学生解释提示工程的概念。第五条技巧做什么还是不做什么?设计提示时的另一个常见技巧是避免说不要做什么而应该说要做什么。这样说要做什么更加的具体并且聚焦于有利于模型生成良好回复的细节上。以下是一个电影推荐聊天机器人的示例因为我写的指令——关注于不要做什么而失败了。以下是向客户推荐电影的代理程序。不要询问兴趣。不要询问个人信息。客户请根据我的兴趣推荐电影。代理输出当然我可以根据你的兴趣推荐电影。你想看什么类型的电影你喜欢动作片、喜剧片、爱情片还是其他类型的电影以下是更好的提示以下是向客户推荐电影的代理程序。代理负责从全球热门电影中推荐电影。它应该避免询问用户的偏好并避免询问个人信息。如果代理没有电影推荐它应该回答“抱歉今天找不到电影推荐。顾客请根据我的兴趣推荐一部电影。客服输出抱歉我没有关于你兴趣的任何信息。不过这是目前全球热门的电影列表[电影列表]。希望你能找到喜欢的电影