30款热门AI模型一站整合DeepSeek/GLM/Qwen 随心用限时 5 折。 点击领海量免费额度在实际 AI 应用开发中无论是使用 OpenAI 的 GPT 系列、Claude还是开源的 Llama、Qwen 等大语言模型开发者遇到的最大瓶颈往往不是模型本身的能力而是如何与模型“有效沟通”。一个精心设计的提示词Prompt可以让模型输出精准、可靠的结果而一个模糊的指令则可能导致答非所问、逻辑混乱甚至“幻觉”Hallucination。这种通过设计、优化输入文本来引导大模型生成高质量输出的技术就是提示工程Prompt Engineering。它并非简单的“说话技巧”而是一门融合了语言学、认知科学和软件工程实践的学科是连接人类意图与 AI 能力的核心桥梁。对于希望将大模型集成到产品中的开发者、数据分析师或技术决策者而言掌握提示工程意味着能以更低的成本、更快的速度获得更稳定、可控的 AI 输出。本文将围绕提示工程的核心概念、关键技术、实战步骤和高级模式展开旨在提供一套从入门到进阶的、可立即应用于项目的工程化指南。我们将避开华而不实的理论堆砌直接切入如何设计提示词结构、运用高级技巧如思维链、RAG、规避常见陷阱并最终构建出可靠的大模型应用。1. 理解提示工程从“聊天”到“工程化指令”在深入技术细节前必须澄清一个常见误解提示工程不等于和 ChatGPT 闲聊。它是一种结构化的、可复现的、以目标为导向的工程实践。1.1 提示词的核心要素角色、任务、上下文与格式一个有效的提示词通常包含四个关键部分我们可以将其视为一个标准模板角色Role定义模型在对话中扮演的身份。这能激活模型内部与该角色相关的知识模式和语言风格。示例你是一位经验丰富的 Java 后端架构师。任务Task清晰、无歧义地说明需要模型完成的具体工作。避免使用“帮我处理一下”这类模糊表述。示例请将以下用户需求拆解成具体的、可执行的 RESTful API 接口设计包含端点、HTTP 方法、请求/响应体结构。上下文Context提供完成任务所必需的信息。这包括输入数据、背景知识、约束条件等。上下文的质量直接决定输出的准确性。示例需求描述“用户可以在平台创建项目项目包含名称、描述和截止日期。用户可以邀请其他成员加入项目并为成员分配不同角色管理员、编辑者、查看者。”格式Format明确指定输出的格式要求。这对于后续的程序化处理至关重要。示例请以 JSON 数组的形式输出每个对象包含api_path,method,request_schema,response_schema字段。一个整合后的基础提示词示例你是一位经验丰富的 Java 后端架构师。 请将以下用户需求拆解成具体的、可执行的 RESTful API 接口设计包含端点、HTTP 方法、请求/响应体结构。 需求描述“用户可以在平台创建项目项目包含名称、描述和截止日期。用户可以邀请其他成员加入项目并为成员分配不同角色管理员、编辑者、查看者。” 请以 JSON 数组的形式输出每个对象包含 api_path, method, request_schema, response_schema 字段。1.2 大模型的工作原理与提示词的关系理解提示词为何有效需要简要了解大语言模型LLM的运作方式。LLM 本质上是基于海量文本训练出的概率模型它根据输入的文本序列即提示词预测下一个最可能的词元Token如此循环生成完整回复。提示词的作用是“塑造”这个概率分布。提供上下文窗口模型在一次处理中能“看到”的文本长度有限即上下文窗口如 4K, 8K, 128K Tokens。提示词占据了这部分窗口你提供的信息越相关、越结构化模型就能在更准确的“信息空间”里进行预测。激发内部知识关联当提示词中包含了“Java 架构师”、“RESTful API”等关键词时模型会倾向于调用训练数据中与这些概念强相关的文本模式和知识片段。定义输出分布通过指定输出格式如 JSON你实际上是在约束模型使其在生成每个 Token 时更倾向于符合 JSON 语法的选择从而降低生成无结构文本的概率。因此提示工程的目标就是通过精心设计输入将模型庞大的、通用的语言能力聚焦并引导到解决特定、具体问题的路径上。2. 环境准备与基础工具链在开始设计复杂提示词前我们需要一个可以反复实验、评估和迭代的环境。对于开发而言直接使用网页聊天界面是不够的我们需要编程式的接入。2.1 主流模型 API 接入准备我们将以 OpenAI API (兼容 OpenAI 格式的各类平台如 Azure OpenAI, 国内的一些合规平台) 和开源模型以 Qwen 为例两种典型场景进行说明。场景一使用 OpenAI 兼容 API获取 API 密钥访问你所选平台的开发者控制台创建并保存好 API Key。安装 SDKPython 环境是主流选择。pip install openai基础调用代码import openai import os # 配置 API Key 和 Base URL (如果使用非官方 OpenAI 服务) client openai.OpenAI( api_keyos.getenv(OPENAI_API_KEY), # 建议从环境变量读取 base_urlhttps://api.openai.com/v1 # 根据实际服务商修改 ) def simple_chat_completion(prompt, modelgpt-3.5-turbo): response client.chat.completions.create( modelmodel, messages[ {role: user, content: prompt} ], temperature0.7, # 控制随机性0-2之间越高越随机 max_tokens1000, ) return response.choices[0].message.content # 测试调用 test_prompt 用一句话解释什么是提示工程。 result simple_chat_completion(test_prompt) print(result)场景二本地部署或调用开源模型如 Qwen使用 OpenAI 兼容的本地服务许多开源模型框架如 Ollama, vLLM, FastChat提供了与 OpenAI API 兼容的接口。以 Ollama 运行 Qwen2.5 为例# 安装 Ollama (详见官网) # 拉取并运行模型 ollama run qwen2.5:7b # 默认会在本地 11434 端口启动一个兼容 OpenAI API 的服务调用代码只需修改上述代码中的base_url和model参数。client openai.OpenAI( api_keyollama, # Ollama 通常不需要真实 key但需占位 base_urlhttp://localhost:11434/v1 ) result simple_chat_completion(test_prompt, modelqwen2.5:7b)2.2 提示词开发与评估工具单纯调用 API 难以高效迭代。推荐以下实践Jupyter Notebook / Python 脚本用于快速实验和记录不同提示词的效果。环境变量管理使用.env文件管理 API Key 等敏感信息。# .env 文件 OPENAI_API_KEYyour_key_here OPENAI_BASE_URLhttps://api.openai.com/v1提示词模板化使用 Python 的 f-string 或string.Template来管理包含变量的提示词。prompt_template 角色{role} 任务{task} 上下文{context} 格式要求{format} filled_prompt prompt_template.format( role资深软件工程师, task审查以下代码片段找出潜在的性能问题和代码坏味道。, contextcode_snippet, format以列表形式列出问题每个问题包含‘问题描述’和‘修改建议’两项。 )3. 核心提示工程技术详解与实战掌握了基础调用后我们来深入几种能显著提升输出质量的核心提示技术。3.1 零样本Zero-Shot与少样本Few-Shot提示这是最基础的两种技术区别在于是否在提示词中提供示例。零样本提示直接给出指令不提供示例。依赖模型的内化知识。适用场景任务简单、定义明确或模型在该领域知识充足。示例将以下英文翻译成中文‘Prompt Engineering is crucial for LLM applications.’少样本提示在指令前提供少量输入-输出示例让模型通过类比学习任务模式。适用场景任务复杂、格式特殊或需要模型遵循特定风格、规则。示例请根据产品描述生成广告标语。 示例1 输入一款续航达24小时的无线降噪耳机。 输出静享全天声动不息。 示例2 输入一个能自动分类整理照片的云相册应用。 输出万千瞬间井然有序。 现在请为以下产品生成标语 输入一种采用新型材料重量减轻30%的旅行箱。 输出注意少样本示例的选择至关重要。示例应清晰、正确并覆盖任务的各种边界情况。通常 2-5 个示例即可达到很好效果过多会浪费上下文窗口并可能引入冲突。3.2 链式思考Chain-of-Thought, CoT提示对于需要逻辑推理、数学计算或多步骤分析的任务直接提问往往得到错误答案。CoT 技术引导模型“展示其思考过程”。基本原理在提示词中要求模型逐步推理或在少样本示例中展示推理步骤。标准 CoT 示例问题一个篮子里有5个苹果你拿走了2个又放进去3个梨最后篮子里有多少个水果 让我们一步步思考 1. 开始时有5个苹果。 2. 拿走2个苹果后剩下 5 - 2 3 个苹果。 3. 放进去3个梨。现在篮子里有3个苹果和3个梨。 4. 水果总数是苹果加梨3 3 6。 所以最后篮子里有6个水果。在要求模型解决新问题时可以加上“让我们一步步思考”这样的指令。进阶技巧零样本 CoT对于强大的模型如 GPT-4有时只需在问题末尾加上“让我们一步步地思考。”或“请分步骤解释你的推理过程。”就能激发其链式思考能力而无需提供示例。3.3 检索增强生成Retrieval-Augmented Generation, RAG这是当前构建企业级知识问答、客服机器人等应用的核心架构。RAG 解决了大模型的两个关键问题知识过时和幻觉。工作流程检索Retrieval当用户提问时先从外部的知识库如向量数据库中检索出与问题最相关的文档片段。增强Augmentation将检索到的文档片段作为上下文与用户原始问题一起拼接成新的、信息更丰富的提示词。生成Generation将增强后的提示词发送给大模型生成最终答案。简易 RAG 提示词结构请严格根据以下提供的上下文信息来回答问题。如果上下文信息不足以回答问题请直接回答“根据已知信息无法回答此问题”。 上下文 {retrieved_context_1} {retrieved_context_2} ... 问题{user_question} 答案技术栈选择嵌入模型Embedding将文本转换为向量用于相似度检索。常用text-embedding-ada-002(OpenAI) 或BGE,text2vec等开源模型。向量数据库存储和检索向量。常用Chroma,Qdrant,Weaviate,Milvus。框架LangChain或LlamaIndex可以大幅简化 RAG 应用的搭建流程。3.4 函数调用Function Calling与 ReAct 框架为了让大模型能与外部工具、API 或数据库交互需要用到函数调用或更复杂的智能体Agent框架。函数调用向模型描述可用的函数名称、参数、说明模型在理解用户请求后会输出一个符合格式的函数调用请求开发者再据此执行真实代码。OpenAI API 示例# 1. 定义工具函数列表 tools [ { type: function, function: { name: get_current_weather, description: 获取指定城市的当前天气, parameters: { type: object, properties: { location: {type: string, description: 城市名}, unit: {type: string, enum: [celsius, fahrenheit]} }, required: [location] } } } ] # 2. 在聊天补全调用中传入 tools 参数 response client.chat.completions.create( modelgpt-3.5-turbo, messages[{role: user, content: 北京现在天气怎么样}], toolstools, tool_choiceauto, ) # 3. 解析模型返回判断是否需要调用函数 message response.choices[0].message if message.tool_calls: # 提取函数名和参数 function_name message.tool_calls[0].function.name arguments json.loads(message.tool_calls[0].function.arguments) # 4. 执行本地函数 get_current_weather(arguments[location], ...) # 5. 将函数执行结果作为新的消息附加到对话中再次请求模型生成最终回复ReAct 框架结合了推理Reasoning和行动Acting。模型输出交替的“思考”和“行动”步骤直到解决问题。模式Thought: [模型分析当前情况和下一步该做什么]-Action: [调用某个工具如 Search, Calculator]-Observation: [工具返回的结果]- ... -Final Answer: [最终答案]实现通常需要构建一个循环解析模型的输出执行对应的行动再将结果反馈给模型直到模型输出最终答案。4. 构建一个完整的提示词驱动应用知识库问答机器人我们将综合运用以上技术勾勒一个基于 RAG 和函数调用的简易“金融知识问答机器人”项目实现框架。假设技术栈为FastAPI(后端),Qwen(LLM),LangChain(框架),Chroma(向量库)。4.1 项目设计与架构目标用户输入金融领域相关问题机器人从内部知识库PDF、Word文档中查找信息并生成准确、有据可依的回答。核心流程文档预处理与向量化离线。用户提问 - 检索相关文档片段 - 构建增强提示词 - 调用 LLM 生成答案。可选对于需要计算如收益率的问题引导模型调用计算工具。4.2 关键实现步骤步骤一知识库预处理与嵌入from langchain_community.document_loaders import PyPDFLoader from langchain.text_splitter import RecursiveCharacterTextSplitter from langchain_community.embeddings import HuggingFaceEmbeddings # 使用开源嵌入模型 from langchain_community.vectorstores import Chroma # 1. 加载文档 loader PyPDFLoader(financial_report.pdf) documents loader.load() # 2. 分割文本 text_splitter RecursiveCharacterTextSplitter(chunk_size500, chunk_overlap50) chunks text_splitter.split_documents(documents) # 3. 创建向量存储 embeddings HuggingFaceEmbeddings(model_nameBAAI/bge-small-zh-v1.5) # 中文模型 vectorstore Chroma.from_documents(documentschunks, embeddingembeddings, persist_directory./chroma_db) vectorstore.persist()步骤二构建 RAG 检索链from langchain.chains import RetrievalQA from langchain_community.llms import Ollama # 假设使用本地 Ollama 运行的 Qwen from langchain.prompts import PromptTemplate # 1. 连接向量库和 LLM llm Ollama(modelqwen2.5:7b, base_urlhttp://localhost:11434) vectorstore Chroma(persist_directory./chroma_db, embedding_functionembeddings) retriever vectorstore.as_retriever(search_kwargs{k: 3}) # 检索 top-3 相关片段 # 2. 定义自定义提示词模板 prompt_template 你是一个专业的金融顾问请严格根据以下上下文信息来回答问题。答案应简洁、准确并引用上下文中的事实。 如果上下文信息不足以回答问题请诚实地告知你无法根据现有资料回答不要编造信息。 上下文 {context} 问题{question} 专业回答 PROMPT PromptTemplate( templateprompt_template, input_variables[context, question] ) # 3. 创建检索问答链 qa_chain RetrievalQA.from_chain_type( llmllm, chain_typestuff, # 简单地将所有检索到的上下文拼接 retrieverretriever, chain_type_kwargs{prompt: PROMPT}, return_source_documentsTrue # 返回来源文档便于溯源 ) # 4. 提问 result qa_chain.invoke({query: 什么是市盈率}) print(result[result]) print(来源文档, result[source_documents])步骤三集成函数调用示例汇率计算# 定义工具函数 def get_exchange_rate(base_currency: str, target_currency: str) - float: # 这里应调用真实的汇率 API此处返回模拟值 rates {USD_CNY: 7.2, EUR_CNY: 7.8} key f{base_currency}_{target_currency} return rates.get(key, 未找到该汇率信息) # 在提示词中告知模型可用的工具或使用 LangChain 的 Agent 框架 # 此处为简化示意在实际的 Agent 中LangChain 会处理工具描述、模型决策和执行的循环。4.3 运行验证与评估部署上述服务后需要通过多样化的测试问题来验证效果事实性问题检查答案是否准确源自知识库无幻觉。多跳推理问题例如“A公司去年的利润增长率比B公司高多少”这需要检索A和B两家公司的数据并进行计算。超出知识库范围的问题检查模型是否会诚实回答“无法回答”。格式要求检查答案是否遵循了指定的简洁、专业风格。评估指标可以包括答案相关性人工评估或使用另一个 LLM 评估。引用准确性答案中的陈述是否能在提供的源文档中找到支持。幻觉率答案中是否存在源文档未提及的信息。5. 高级技巧与生产环境考量5.1 提示词优化与迭代提示词开发是一个迭代过程。建议A/B 测试对同一任务设计多个版本的提示词使用一批标准问题测试选择综合表现最好的。分析失败案例仔细研究模型出错的回答是上下文不足、指令模糊还是模型能力边界问题据此调整提示词。使用“系统提示词”在 OpenAI 的 Chat 模型中system角色消息可以更稳定地设定模型的行为基调比在user消息中说明更有效。5.2 生产环境最佳实践提示词注入防护警惕用户输入中可能包含的试图覆盖你系统提示词的指令。应对策略包括对用户输入进行过滤或转义在系统提示词中强调必须遵循指令使用更强大的模型通常抗注入能力更强。设置确定性参数temperature生产环境通常设为较低值如 0.1-0.3以保证输出稳定性。创意类任务可适当调高。max_tokens设置上限防止生成过长内容控制成本。stop序列设置停止词确保输出格式规整。实现重试与退避机制API 调用可能因网络或速率限制失败。代码中应包含指数退避的重试逻辑。成本与延迟监控记录每次调用的 Token 消耗和响应时间设置告警阈值。可观测性与日志记录完整的提示词、模型响应、Token 使用量以及会话 ID这对于调试和优化至关重要。5.3 常见陷阱与排查表问题现象可能原因检查与解决思路模型输出与预期格式不符1. 格式指令不清晰。2. 少样本示例不足或格式不一致。3. Temperature 值过高。1. 在提示词中明确指定格式如 JSON Markdown 列表。2. 提供更准确、多样的少样本示例。3. 降低 temperature 值如设为 0。模型忽略提供的上下文RAG 中常见1. 检索到的上下文不相关。2. 提示词未强制要求基于上下文回答。3. 上下文过长被模型截断或忽略。1. 优化检索策略调整 chunk 大小、重叠度尝试不同嵌入模型。2. 在提示词中使用强硬指令如“必须依据以下上下文”。3. 精简上下文或使用map_reduce等更复杂的链式方法处理长文档。模型产生“幻觉”编造信息1. 任务超出模型知识范围。2. 提示词过于开放。3. 在 RAG 中检索结果为空或质量差。1. 使用 RAG 引入外部知识。2. 增加约束如“如果你不确定请说不知道”。3. 检查检索环节确保知识库覆盖了问题领域。输出冗长或包含多余解释1. 模型默认行为倾向于详细解释。2. 系统提示词设定了“助手”角色。1. 在指令中明确要求“简洁回答”、“只输出最终答案”。2. 在系统提示词中设定“你是一个简洁、高效的助手”。函数调用不触发或参数错误1. 工具/函数描述不够清晰。2. 模型对用户意图理解有偏差。1. 优化函数描述确保参数名和描述清晰无歧义。2. 在用户问题不明确时让模型先通过对话澄清需求再触发函数。6. 扩展方向与学习路径掌握了上述核心内容后你可以向更深处探索自动化提示工程研究如何用模型优化提示词自身例如使用LLM-as-a-Judge或GRPO等算法自动评估和迭代提示词。微调Fine-tuning当提示工程达到瓶颈或需要让模型深度适应特定领域术语、风格和流程时可以考虑使用 SFT监督微调、LoRA低秩适应等技术在领域数据上微调基础模型。智能体Agent系统构建能自主规划、使用多种工具完成复杂任务的智能体。深入研究 ReAct、Plan-and-Execute、CrewAI 等架构。图增强GraphRAG超越传统 RAG利用知识图谱来存储和检索实体关系解决复杂、多跳的推理问题。评估体系建立系统化的评估基准量化提示词修改、模型更换、架构调整带来的效果变化。提示工程不是一次性的工作而是一个伴随大模型应用生命周期的持续优化过程。最有效的学习方式是在明确的项目目标驱动下从构建一个最简单的可运行案例开始然后逐步引入复杂性并始终以可观测的指标来衡量每一次改进。 30款热门AI模型一站整合DeepSeek/GLM/Qwen 随心用限时 5 折。 点击领海量免费额度