今天继续介绍一篇微软团队发表在2025 ACL会议的经典提示词优化工作——PromptWizard一款面向黑盒大模型的全自动离散提示词优化框架。相比于前面介绍的APE、OPRO等仅搜索 / 规律发现的角度优化PromptWizard进化到基于bad case的提示词调优。论文地址https://aclanthology.org/2025.findings-acl.1025.pdf 项目地址https://github.com/microsoft/PromptWizard/01、研究背景大模型落地提示词Prompt是绕不开的一环但手动做提示工程有几个绕不开的痛点人工设计提示词耗时、靠经验、换个任务就要重写通用性极差强模型都是黑盒GPT-4、Gemini 只开放 API拿不到模型梯度传统依赖梯度类优化方法完全用不了随着GPT-4、Gemini等闭源黑盒大模型成为主流传统依赖梯度的提示词优化方法彻底失效现有自动优化方案缺陷明显a.连续优化要额外训网络复杂任务拉胯提示不可读可解释性低b.离散优化搜索盲目缺少反馈API 调用量大效率低c.反馈类方法计算贵收敛慢难落地几乎没有方案能同时高效优化「提示指令 上下文示例」PromptWizard核心定位很明确依靠自进化与自适应机制持续优化提示词指令和上下文示例无需人工干预完美适配黑盒大模型的使用场景。02、PromptWizard 框架PromptWizard 是一个自进化、自适应的离散提示优化框架。通过大模型完成四件事生成提示变体 → 打分筛选 → 自我评判找缺陷 → 合成优化并且交替迭代优化提示指令和上下文示例最终得到人类可读、任务专用、效果更强的提示词。问题建模PromptWizard 的优化从三个输入开始优化目标同时迭代优化提示词 P 和少样本示例最大化目标任务的准确率 A 得到优化后的提示词让模型输出更准。提示词指令的迭代优化提示词指令的优化是PromptWizard的第一个核心环节也是最基础的一步。采用反馈驱动整个流程由四个组件串联完成1变异组件生成多样化提示词变体以任务描述为起点用预设的认知启发式 / 多种思维角度让大模型一次性生成多条提示变体。这里的启发式规则很关键引导LLM从多视角理解任务——比如有的变体侧重“分步推理”有的侧重“场景适配”有的侧重“结果验证”从而生成丰富且多样的提示词指令避免陷入单一思路的局限。另外一次 LLM 调用生成多个变体效率高。2评分组件筛选最优候选提示词生成大量变体后评分组件来实现“去粗取精”。简单来说用5 个带标注的小批量训练样本给每条提示打分。评分的方式有两种F1 等传统指标直接用 LLM 做评估器两种方式各有优势前者更客观后者更贴合大模型的实际输出逻辑。评分组件通过多轮小批量验证筛掉低分提示保留最优候选。3评判组件定位缺陷给出针对性反馈经过评分筛选出的最优提示词并不完美还需要评判组件进一步做深度诊断。通过深入分析大语言模型在处理困难样本时的表现区分正确输出和错误输出精准定位提示词存在的缺陷例如缺上下文理解、漏步骤、没覆盖场景等。输出可直接用于优化的结构化反馈。4合成组件改写增强生成最优提示词有了评判组件的反馈合成组件“对症下药”。依据反馈信息对筛选出的最优提示词进行改写和增强——比如补充缺失的关键要求、梳理指令的表述逻辑、优化语言的清晰度最终生成更贴合特定任务、性能更优的提示词指令。这四个组件环环相扣提示指令就完成了第一轮高质量进化。多样化示例筛选为后续优化提供“优质素材”多样化的示例能帮助大语言模型更全面地理解任务信息而失败样本则能直接暴露提示词的不足让后续的优化更有针对性。因此提示指令优化完下一步是挑出最有用、最能暴露问题的少量示例主要是失败样本作为后续优化的素材。具体的筛选逻辑从训练集随机抽 25 个样本用当前提示跑一遍分成正例做得对和负例做不对优先选负例作为后续优化素材最能暴露问题迭代 5 轮凑够目标数量的示例不够就从 25 个里随机补提示词指令与少样本示例的序列优化PromptWizard最核心的创新点不单独优化指令也不单独优化示例而是采用序列式的联合优化让提示词和示例协同提升。整个序列优化过程依然遵循“评判-合成”的核心流程分为两个环节循环迭代、持续优化① 优化示例评判组件分析现有示例的问题给出示例需要优化的方向比如示例不够复杂、没有覆盖关键场景等合成组件件依据这些反馈生成新的合成示例更多样、更贴任务、更鲁棒② 优化提示把新示例和当前提示一起输入评判组件识别提示仍存在的漏洞合成组件利用反馈信息再次精调提示指令经过多轮迭代提示和示例会高度匹配任务细节效果远强于只优化一边。自生成推理与验证我们都知道思维链CoT推理能显著提升大语言模型的问题解决能力。因此为了提升复杂推理任务数学、逻辑的效果框架加入1推理组件ReasoningComponent给每个精选示例自动生成完整思维链CoT把解题步骤写清楚。这样能帮助大语言模型更好地理解问题解决的逻辑提升复杂问题的处理能力。2验证组件ValidateComponent用 LLM 检查示例是否正确推理链是否合理有没有幻觉这一步过滤掉不合格内容能有效保证示例的质量避免错误示例误导大模型影响最终的优化效果。任务意图与专家角色让提示词更“精准”、输出更“稳定”除了优化提示词和示例PromptWizard还加入了两个细节设计将任务意图和专家角色融入到提示词当中这两类信息都由合成组件根据任务描述自动生成。1任务意图通过从任务描述里提取特定的提示信息或关键词让大语言模型在专业领域任务中始终贴合任务的核心要求。2专家角色自动生成一个贴合任务的专家身份如数学老师、医学研究者、文本分析师让大语言模型保持输出的一致性和相关性避免输出结果出现大幅波动。完整流程梳理最后简单梳理一下PromptWizard的完整优化流程先启动提示词指令优化通过“变异→评分→评判→合成”四大组件得到初步优化后的提示词进行多样化示例筛选从训练数据中选出25个样本重点挑出当前提示词答不对的失败样本作为后续优化的素材进入序列优化循环用评判组件分析筛选出的示例找出示例的不足用合成组件生成更优质的合成示例再用评判组件分析当前提示词结合新示例找出提示词的不足再用合成组件优化提示词加入自生成推理与验证为示例添加思维链过滤错误内容融入任务意图与专家角色优化提示词的精准度和输出稳定性重复上述流程持续迭代直到得到最优的提示词和示例。03、实验结果PromptWizard 在45 个任务上做了全面评测覆盖BBII19 个语言理解任务BBH Hard23 个高难度任务数学推理GSM8k、AQUARAT、SVAMP对比基线包括Instinct、InstructZero、PromptBreeder、EvoPrompt、APE。与基线性能对比1零样本准确率PromptWizard在BBII数据集19项任务中13项任务上达到SOTA占比68%而当时表现较好的Instinct仅在8项任务上最优占比42%。结果表明PromptWizard在复杂指令归纳任务上的适配性更强即便没有上下文示例也能通过优化提示词指令引导大模型更好地完成任务。2单样本准确率为了验证上下文示例的优化效果在单样本设置下专门对比了PromptWizard与Instinct的表现。PromptWizard在19项任务中的16项取得最优准确率占比84%而Instinct的占比仅为36%。这一提升来自于提示指令与示例的联合迭代优化能够更完整地捕获任务专属知识而不是像Instinct那样单独优化指令无法发挥示例的辅助作用。3整体性能通过性能分布曲线来看PromptWizard在所有阈值区间内都保持最高的曲线值说明它在绝大多数任务上都能稳定接近甚至达到最优性能。4更强基座模型当把基座模型更换为更强的GPT-4后PromptWizard的领先优势并没有减弱反而进一步凸显。说明PromptWizard的优化逻辑不依赖于基座模型的强弱即便在更强的黑盒模型上也能实现显著的性能增益通用性很强。5算术数据集在GSM8k、AQUARAT、SVAMP三项算术推理任务上PromptWizard均超过所有基线方法。尤其与APO、PromptAgent、DSPy等基于反馈的优化方法对比PromptWizard依然实现全面领先。6高难度任务BBH表现亮眼在包含23项高难度任务的BBH数据集上PromptWizard的平均准确率相对EvoPrompt和APE提升13%以上展现出在复杂、高难度任务上的强大处理能力。成本分析性能领先的同时大幅降低开销PromptWizard 不只是性能领先还大幅降低了计算成本和API消耗单任务 API 调用仅 69 次对比a.Instinct1730 次b.EvoPrompt5000 次c.PromptBreeder18600 次单任务成本0.05 美元比离散方法便宜16–60 倍比连续方法便宜5 倍精度更高花钱反而最少这是它最适合落地的原因。消融实验1少量训练样本下的有效性在五个不同数据集上实验样本从25个缩减到5个平均准确率仅下降约5%表现出极强的鲁棒性。这一稳定性主要来自两项机制一是合成示例生成能力即便训练样本少也能生成多样化的示例辅助优化二是思维链推理引导机制能帮助大模型更好地理解任务减少对样本数量的依赖。2较小大语言模型的适配性为了提升实用性研究团队探索了“用中等规模模型进行提示词优化、用更强模型执行推理”的方案——毕竟不是所有场景都能用到GPT-4这样的大模型资源受限场景更需要轻量化的优化方案。用Llama-70B中等模型优化效果只比 GPT-4 低**1%**展示了PromptWizard的实用性在资源受限环境也能用。是兼顾效率与性能的理想选择这也进一步降低了PromptWizard的使用门槛。3不同基座模型下的性能PromptWizard在不同基座模型下均有较大提升。说明PromptWizard通用性强。同时实验还验证了框架各核心阶段的贡献去掉任何一环性能都会掉。证明PromptWizard的每一个环节都不可或缺协同作用才能实现最优效果。04、总结作为 2025 年 ACL 的经典研究工作PromptWizard 展现出极强的实际应用价值是一套工程性优异、落地适配性高的黑盒大模型提示词优化方案为自动化提示工程提供了高效且易落地的解决思路。同时该框架也存在明确的适用边界仍有进一步优化和拓展的空间框架核心组件均基于大语言模型调用实现尽管相比现有方法已大幅提升效率、降低开销但实际大规模部署时相关的资源占用与计算成本仍需纳入考量方法设计依托有明确标准答案的任务场景在无固定正确答案、输出形式灵活的开放域生成任务中难以通过现有评判与合成机制实现有效优化适用范围存在一定限制。后续会持续分享更多前沿提示词优化方法探索大模型高效调优的更多可能性。