你是不是也遇到过这种情况精心准备了一大段问题描述发给大模型结果它要么答非所问要么给你一堆正确的废话要么干脆说“我无法回答这个问题”你可能会想是不是模型不够聪明但真相往往是问题出在你提问的方式上。在AI大模型LLM应用开发中一个核心的共识正在形成提示词Prompt的质量直接决定了模型能力的上限。一个糟糕的提示词能让GPT-4表现得像个小学生而一个精心设计的提示词则能让一个中等能力的模型发挥出专家级的水准。这就是“提示词工程”Prompt Engineering的价值所在——它不是简单的“说话的艺术”而是一门可学习、可优化、可工程化的技术。然而网上充斥着大量零散的“提示词技巧”比如“用‘请一步步思考’”、“加上‘你是专家’”这些技巧看似有用却不成体系。很多开发者学了一堆“咒语”但在实际项目中面对复杂的业务逻辑、多轮对话、知识检索RAG或智能体Agent构建时依然无从下手感觉提示词像“玄学”。本文的目的就是帮你彻底告别“玄学”。我们将从工程化的视角系统性地拆解提示词工程的核心原理、设计模式、最佳实践和高级技巧。无论你是想提升日常使用大模型的效率还是正在开发基于LLM的应用程序如问答机器人、智能客服、代码助手这篇文章都将为你提供一套清晰、可落地的“操作手册”。我们将从最基础的“角色扮演”和“结构化输出”讲起一直深入到RAG和Agent中的复杂提示设计并附上可直接运行的代码示例。读完本文你将能理解核心原则掌握让模型“听话”的底层逻辑而非死记硬背模板。构建系统方法学会从零设计一个高效、稳定、可维护的提示词。解决实际问题能够应对模糊需求、长上下文、多步骤推理等复杂场景。规避常见陷阱识别并避免导致模型输出不稳定或错误的典型问题。1. 提示词工程从“玄学”到“工程学”在深入技术细节之前我们必须先建立一个正确的认知提示词工程到底是什么它为什么重要1.1 核心价值低成本激发模型潜能对于绝大多数开发者和企业而言动辄对百亿、千亿参数的大模型进行微调Fine-tuning成本高昂且技术门槛不低。提示词工程提供了一种“零样本”Zero-shot或“少样本”Few-shot的解决方案通过精心设计的输入文本来引导模型无需修改模型权重就能让其适配特定任务。这是一种性价比极高的能力定制方式。1.2 解决的问题域提示词工程主要解决以下几类问题任务定义模糊用户的问题不清晰需要模型先澄清再回答。输出格式混乱需要模型返回结构化数据如JSON、列表而非自由文本。上下文过长如何在长文档中让模型准确找到相关信息并据此回答。多步骤推理复杂问题需要模型分解为多个子步骤进行思考Chain-of-Thought。规避有害或无关输出防止模型生成偏见内容、无关信息或执行危险操作。1.3 目标读者AI应用开发者正在或计划使用 OpenAI API、通义千问、文心一言等开发应用。技术爱好者/研究者希望更高效地利用大模型进行内容创作、数据分析或研究。产品经理与业务人员需要与AI协作明确如何向模型提出需求才能获得理想结果。2. 基础概念与核心原理理解模型的“思考”方式要设计好提示词必须对模型的工作原理有基本了解。这不是要你精通Transformer架构而是要理解它的“行为模式”。2.1 大模型是“下一个词预测器”本质上LLM是一个基于海量文本训练出来的、极其强大的“下一个词预测器”。给定一段输入文本即你的提示词模型会根据其训练数据中的统计规律计算下一个词或token概率分布并选择概率最高的或按某种策略采样作为输出如此循环生成整个回复。关键启示你的提示词就是在为模型构建一个最有可能导向你期望答案的“上文语境”。你说的话越像它训练数据中“好答案”前面的那些话它就越可能给出好答案。2.2 关键概念解析提示词Prompt你输入给模型的全部文本包括指令、上下文、示例等。系统提示System Prompt在许多API中如OpenAI Chat Completion用于设定模型的角色、行为规范和基础指令通常对用户不可见。它是对话的“元指令”。用户提示User Prompt用户本次请求的具体内容。少样本学习Few-shot Learning在提示词中提供几个输入-输出的例子让模型通过类比来学习任务。这是提示词工程中最强大的技巧之一。思维链Chain-of-Thought, CoT要求模型在给出最终答案前先展示其推理步骤。这能显著提升复杂推理任务的准确性。指令微调Instruction Tuning模型在训练后期使用大量指令 期望输出对进行微调使其更擅长遵循人类指令。我们设计的提示词正是在与这部分能力进行交互。3. 环境准备从本地测试到API调用在开始设计复杂提示词之前我们需要一个可以快速实验的环境。这里以Python和OpenAI API为例其他如通义千问、文心一言API类似。3.1 基础环境配置确保你已安装Python建议3.8和包管理工具pip。3.2 安装必要的Python库我们将使用openai这个官方库。如果你使用其他模型可能需要安装对应的SDK如dashscope用于通义千问。# 安装OpenAI Python SDK pip install openai # 可选用于解析JSON等结构化输出 pip install pydantic3.3 获取并设置API密钥以OpenAI为例你需要在其官网注册并获取API Key。# 方式一设置环境变量推荐更安全 # 在终端中执行 # export OPENAI_API_KEYyour-api-key-here # 方式二在代码中直接设置仅用于测试 import openai openai.api_key your-api-key-here # 注意生产环境切勿硬编码密钥 # 对于其他平台如通义千问 # import dashscope # dashscope.api_key your-dashscope-api-key重要安全提醒永远不要将API密钥提交到代码仓库如GitHub。请使用环境变量或安全的密钥管理服务。4. 提示词设计核心模式与实战现在让我们进入核心部分。我们将通过一系列模式Pattern来学习如何构建有效的提示词。每个模式都包含原理、示例和代码。4.1 模式一角色扮演Role Playing这是最基础也最有效的模式。通过给模型分配一个具体的角色可以约束其输出风格和专业领域。原理利用模型在训练数据中对特定角色如专家、助手、诗人语言风格的记忆。示例让模型扮演一个Linux终端。import openai def ask_linux_terminal(question): response openai.ChatCompletion.create( modelgpt-3.5-turbo, # 或 gpt-4 messages[ {role: system, content: 你是一个Linux终端。我将输入命令你将回复终端应该显示的内容。我期望你只回复终端输出在一个唯一的代码块内不要写解释。除非我指示你这样做否则不要输入命令。}, {role: user, content: question} ], temperature0 # 温度设为0使输出更确定 ) return response.choices[0].message.content # 测试 user_command 列出当前目录下所有以.py结尾的文件 answer ask_linux_terminal(user_command) print(answer)输出预期模型会回复类似ls *.py命令执行后的结果并包裹在代码块中。关键点system消息定义了角色的核心行为准则。temperature0使输出更稳定适合需要确定结果的场景。4.2 模式二结构化输出Structured Output让模型返回JSON、XML或特定格式的文本便于程序后续解析。这是开发AI应用的关键。原理在指令中明确描述输出格式并提供示例Few-shot让模型模仿。示例从一段产品描述中提取结构化信息。import openai import json def extract_product_info(description): prompt f 请从以下产品描述中提取信息并以JSON格式返回。JSON必须包含以下字段name (字符串产品名), price (数字价格), features (字符串数组特点列表), in_stock (布尔值是否有库存)。 产品描述 {description} 请确保只返回JSON不要有其他任何文字。 response openai.ChatCompletion.create( modelgpt-3.5-turbo, messages[{role: user, content: prompt}], temperature0 ) # 尝试解析返回的JSON try: result json.loads(response.choices[0].message.content.strip()) return result except json.JSONDecodeError as e: print(fJSON解析失败: {e}) print(f模型返回: {response.choices[0].message.content}) return None # 测试 desc 新款智能手机X1售价为3999元。它拥有6.7英寸OLED屏幕5000mAh大电池支持120W快充。目前有现货。 info extract_product_info(desc) if info: print(json.dumps(info, indent2, ensure_asciiFalse))输出预期{ name: 智能手机X1, price: 3999, features: [6.7英寸OLED屏幕, 5000mAh大电池, 支持120W快充], in_stock: true }进阶技巧结合Pydantic等库可以定义更严格的Schema并使用函数调用Function Calling功能让模型直接返回结构化的调用参数这是更鲁棒的方式。4.3 模式三思维链Chain-of-Thought, CoT与零样本思维链Zero-shot-CoT对于数学、逻辑推理等复杂问题直接提问效果差。CoT要求模型展示推理过程。原理模拟人类解决问题时的逐步思考让模型把“内心戏”写出来从而更可能得到正确结论。示例Few-shot CoT解决数学应用题。def solve_math_problem(problem): prompt f 请解决以下数学问题。请一步步思考并将最终答案放在 \\boxed{{}} 中。 示例 问题小明有5个苹果他又买了3袋苹果每袋有4个。他现在一共有多少个苹果 思考首先计算3袋苹果的总数3袋 * 4个/袋 12个。然后加上原有的5个苹果5个 12个 17个。 答案\\boxed{{17}} 现在请解决 问题{problem} response openai.ChatCompletion.create( modelgpt-3.5-turbo, messages[{role: user, content: prompt}], temperature0 ) return response.choices[0].message.content # 测试 problem 一个水池有一个进水管和一个出水管。单独开进水管6小时可以注满水池单独开出水管8小时可以放完一池水。如果同时打开进水管和出水管多少小时可以注满水池 answer solve_math_problem(problem) print(answer)输出预期模型会展示计算进水管和出水管效率、求净效率、最后求时间的完整过程并以\boxed{24}结尾。Zero-shot-CoT对于不支持Few-shot的简单场景可以在问题后直接加上“让我们一步步思考。”这句“咒语”往往也能激发模型的推理能力。4.4 模式四上下文管理Context Management当提示词非常长例如包含长文档时如何确保模型关注到关键信息原理通过指令明确告诉模型在给定的上下文中寻找答案并引用原文。示例基于提供的文档进行问答这是RAG的简化核心。def answer_based_on_context(question, context): prompt f 请根据以下提供的上下文信息来回答问题。如果上下文中的信息不足以回答问题请直接说“根据提供的上下文我无法回答这个问题”。不要利用你已有的知识进行补充。 上下文 {context} 问题{question} response openai.ChatCompletion.create( modelgpt-3.5-turbo, messages[{role: user, content: prompt}], temperature0 ) return response.choices[0].message.content # 测试 doc_context 项目Alpha于2023年启动主要目标是开发一个基于大模型的智能客服系统。技术栈采用了Python的FastAPI框架作为后端使用LangChain来构建处理链向量数据库选用的是Pinecone。目前项目处于测试阶段团队有5名成员。 q1 项目Alpha用了什么后端框架 q2 项目团队有多少人 q3 项目的预算是多少 # 上下文中没有的信息 print(answer_based_on_context(q1, doc_context)) print(answer_based_on_context(q2, doc_context)) print(answer_based_on_context(q3, doc_context))输出预期对于q1和q2模型应准确回答“FastAPI”和“5名成员”。对于q3模型应回答“根据提供的上下文我无法回答这个问题”。关键点清晰的指令“根据以下提供的上下文”和限制“不要利用你已有的知识”对于防止模型“幻觉”胡编乱造至关重要。5. 高级技巧与实战项目构建一个简易的RAG问答系统现在我们将综合运用以上模式构建一个简化版的RAG检索增强生成问答系统。这能让你直观感受提示词在真实项目中的应用。5.1 项目目标创建一个程序能够读取本地知识文档如Markdown文件并根据文档内容回答用户问题。5.2 技术栈与流程文档加载与分割使用langchain的文档加载器和文本分割器。向量化与检索使用langchain集成向量数据库这里用内存模拟进行语义检索。提示词构建与生成设计提示词将检索到的上下文和用户问题结合发送给大模型生成答案。5.3 完整代码实现# file: simple_rag.py import os from langchain.document_loaders import TextLoader from langchain.text_splitter import RecursiveCharacterTextSplitter from langchain.embeddings import OpenAIEmbeddings from langchain.vectorstores import Chroma # 使用Chroma作为轻量级向量数据库 from langchain.chains import RetrievalQA from langchain.chat_models import ChatOpenAI from langchain.prompts import PromptTemplate # 1. 设置API密钥 (通过环境变量) # export OPENAI_API_KEYyour-key # 2. 加载和分割文档 def load_and_split_documents(file_path): loader TextLoader(file_path, encodingutf-8) documents loader.load() # 分割文档确保每个片段大小适中 text_splitter RecursiveCharacterTextSplitter( chunk_size500, # 每个片段约500字符 chunk_overlap50 # 片段间重叠50字符保持上下文连贯 ) splits text_splitter.split_documents(documents) print(f已将文档分割为 {len(splits)} 个片段。) return splits # 3. 创建向量存储 def create_vector_store(splits): embeddings OpenAIEmbeddings() # 使用OpenAI的嵌入模型 # 将分割后的文本转换为向量并存储到Chroma持久化到本地目录./chroma_db vectorstore Chroma.from_documents( documentssplits, embeddingembeddings, persist_directory./chroma_db ) vectorstore.persist() return vectorstore # 4. 定义核心提示词模板 prompt_template 请严格根据以下提供的上下文信息来回答问题。如果你不知道答案就老实说不知道不要试图编造答案。答案应简洁、准确。 上下文 {context} 问题{question} 请根据上述上下文回答 PROMPT PromptTemplate( templateprompt_template, input_variables[context, question] ) # 5. 构建问答链 def build_qa_chain(vectorstore): llm ChatOpenAI(model_namegpt-3.5-turbo, temperature0) # 创建检索器从向量库中获取最相关的k个文档片段 retriever vectorstore.as_retriever(search_kwargs{k: 3}) # 构建检索问答链 qa_chain RetrievalQA.from_chain_type( llmllm, chain_typestuff, # 将检索到的所有文档“塞”进上下文 retrieverretriever, chain_type_kwargs{prompt: PROMPT}, # 使用我们自定义的提示词 return_source_documentsTrue # 返回源文档便于追溯 ) return qa_chain # 6. 主函数 def main(): # 假设我们有一个知识文件 knowledge.md file_path knowledge.md if not os.path.exists(file_path): # 创建一个示例知识文件 with open(file_path, w, encodingutf-8) as f: f.write( # 公司项目规范 1. 代码提交必须使用Git并在提交信息中关联JIRA任务号。 2. 所有API接口的响应格式必须统一为{code: 200, msg: success, data: {...}}。 3. 每周三下午3点进行团队周会会议链接通过Teams发送。 4. 新员工入职后需在第一个月内完成安全培训考试。 ) print(f已创建示例文件: {file_path}) print(正在加载和分割文档...) splits load_and_split_documents(file_path) print(正在创建向量数据库...) # 如果已经存在可以直接加载避免重复计算向量 if os.path.exists(./chroma_db): embeddings OpenAIEmbeddings() vectorstore Chroma(persist_directory./chroma_db, embedding_functionembeddings) else: vectorstore create_vector_store(splits) print(正在构建问答链...) qa_chain build_qa_chain(vectorstore) # 交互式问答 print(\n 简易RAG问答系统已就绪 ) print(输入 quit 或 exit 退出程序。) while True: question input(\n请输入你的问题: ).strip() if question.lower() in [quit, exit]: break if not question: continue try: result qa_chain({query: question}) print(f\n答案: {result[result]}) # 可选显示来源 # print(\n来源片段:) # for i, doc in enumerate(result[source_documents]): # print(f[{i1}] {doc.page_content[:200]}...) except Exception as e: print(f出错: {e}) if __name__ __main__: main()5.4 运行与验证将上述代码保存为simple_rag.py。在相同目录下你可以创建自己的knowledge.md文件或使用代码生成的示例文件。在终端运行python simple_rag.py程序会先处理文档构建向量索引第一次运行较慢然后进入交互界面。尝试提问例如“代码提交有什么要求”或“周会什么时候开”。观察模型是否能从文档中准确找到答案。5.5 项目解析与提示词核心在这个项目中我们自定义的prompt_template是成功的关键。它明确要求模型严格依据上下文请严格根据以下提供的上下文信息来回答问题。承认未知如果你不知道答案就老实说不知道不要试图编造答案。格式化输入通过{context}和{question}占位符LangChain会自动将检索到的相关文档片段和用户问题填入。这个模板虽然简单但已经包含了RAG系统提示词设计的核心要素指令清晰、边界明确、格式固定。6. 提示词工程的常见“坑”与最佳实践即使掌握了模式在实际操作中仍会踩坑。以下是一些高频问题和解决方案。6.1 常见问题排查表问题现象可能原因排查方式解决方案模型输出与指令不符自由发挥。1. 指令不够清晰、具体。2.system角色设定太弱或被覆盖。3.temperature参数过高。检查system消息和主要指令是否强约束。将temperature设为0测试。强化指令使用“必须”、“只”、“禁止”等词。明确输出格式。优先使用system消息。模型出现“幻觉”编造事实。1. 问题超出模型知识范围。2. 在RAG等场景中未强制模型基于给定上下文回答。检查模型回答的内容是否能在提供的材料中找到依据。在提示词中加入“仅根据以下信息回答”等限制。对于关键事实要求模型提供引用来源。输出格式不稳定有时是JSON有时是文本。指令中对格式的描述模糊。对比不同次运行的输入和输出。使用Few-shot示例明确展示格式。或使用模型的函数调用Function Calling功能。处理长文档时模型遗漏中间信息。1. 上下文长度超限。2. 模型对长上下文的注意力分布不均。检查输入token数是否超过模型限制。观察模型是否更关注开头和结尾。1. 对文档进行有效分割和检索如RAG。2. 在提示词中强调“请仔细阅读全部内容”。3. 将关键信息放在开头或结尾。多轮对话中模型忘记之前的设定。在长对话中早期的system指令影响力会衰减。回顾完整的对话历史消息。定期在user消息中温和地重申核心规则。或设计程序在每轮对话中都附带system消息部分API支持。6.2 最佳实践清单从简单开始迭代优化不要试图一次性写出完美的提示词。先写一个能跑通的简单版本然后根据输出结果逐步增加约束和优化。指令具体化避免“写得好一点”这种模糊要求。取而代之的是“用学术论文的摘要风格在200字以内概括以下内容。”使用分隔符用---、、###等符号清晰分隔指令、上下文、示例和问题帮助模型理解结构。指定输出格式明确告诉模型你需要JSON、列表、Markdown表格还是纯文本。提供示例效果最佳。分而治之对于极其复杂的任务不要指望一个提示词解决。拆分成多个子任务通过多个模型调用或使用Agent框架如LangChain Agents串联起来。系统提示是基石充分利用system消息来设定模型的长期身份和行为基线这比在user消息中重复强调更有效。温度Temperature与核采样Top-p理解这两个参数。temperature(0~2)值越高输出越随机、有创意值越低输出越确定、保守。对于需要确定答案的任务如代码生成、数据提取设为0或接近0。对于创意写作可以设为0.7~1.0。top_p(0~1)另一种控制随机性的方式通常与temperature二选一即可。它考虑概率质量最高的token。评估与测试为你的提示词创建一批测试用例从不同角度准确性、格式、安全性评估输出。这是工程化的体现。7. 总结与进阶方向提示词工程已经从一种“技巧”演变为AI应用开发的核心工程能力。通过本文我们系统地梳理了从基础概念到高级模式再到实战项目的完整路径。关键在于转变思维将模型视为一个需要精确指令的“超级员工”而你的提示词就是给它的工作说明书。下一步你可以探索的方向自动化提示词优化研究如AutoGPT、PromptPerfect等工具或学习基于梯度的方法虽然较少用自动寻找更优的提示词。集成到开发流程将验证过的提示词作为代码的一部分进行版本管理如存为JSON/YAML文件实现提示词的CI/CD。探索更强大的框架深入使用LangChain、LlamaIndex等框架它们提供了更丰富的提示词模板、链Chain、代理Agent和记忆Memory管理能力能构建极其复杂的应用。深入理解模型特性不同模型GPT-4、Claude、通义千问、文心一言对提示词的敏感度、长上下文处理能力、指令遵循能力各有不同需要针对性调整。安全与对齐学习如何设计提示词来规避模型生成有害、偏见或泄露隐私的内容这对于生产级应用至关重要。记住没有“银弹”提示词。最好的提示词来自于对业务需求的深刻理解、对模型行为的持续观察和不断的实验迭代。现在就从为你手头的任务设计第一个结构化的提示词开始吧。
