Prompt engineering（google团队报告，附下载）

一、核心概念：重新定义 “与 AI 对话” 的方式

1. 什么是提示工程？
   • 本质：通过设计文本输入（“提示”）引导 LLM 生成目标输出的过程，涵盖语言风格、任务描述、示例提供、模型配置等多维度优化。
   • 核心目标：解决 “提示不精准导致 LLM 输出错误 / 歧义” 的问题，例如通过明确输出格式（如 JSON）减少模型 “幻觉”，或通过示例引导模型遵循特定逻辑。
   • 普适性：无需专业 AI 背景，任何人都可通过学习掌握，但高效提示需结合模型特性（如 Gemini、GPT）和任务场景迭代优化。
2. LLM 如何 “理解” 提示？
   • LLM 本质是 “预测引擎”，通过分析输入文本的 token 序列概率分布生成后续内容。提示工程的关键是通过结构化输入（如系统提示、示例）引导模型聚焦正确的概率路径。
   • 案例：当提示 “将电影评论分类为 POSITIVE/NEGATIVE” 时，模型需从训练数据中匹配 “情感词→标签” 的映射关系，而零样本提示依赖模型内置的世界知识，少样本提示则通过示例强化这一映射。

二、关键技术：从基础到高阶的提示策略

1. 基础提示技术：构建任务骨架

• 零样本提示（Zero-Shot）：
  • 特点：仅描述任务，不提供示例（如 “总结以下文本的核心观点”），适用于模型已具备相关知识的简单任务。
  • 局限：依赖模型泛化能力，复杂任务易出错（如数学推理、多步逻辑）。
• 少样本提示（Few-Shot）：
  • 核心：提供 3-5 个高质量示例（如输入 – 输出对），引导模型模仿模式（如解析用户指令至 JSON 格式）。
  • 技巧：示例需覆盖多样输入（包括边缘案例），分类任务需混合输出类别以避免模型 “记忆顺序”。
• 角色 / 系统提示（Role/System Prompting）：
  • 角色提示：赋予模型特定身份（如 “扮演旅行指南”），规范输出风格（幽默、专业等），提升场景一致性。
  • 系统提示：定义任务的全局规则（如 “输出必须为 JSON 格式”“回答需包含数据来源”），常用于结构化输出场景（如数据提取、代码生成）。

2. 高阶推理技术：突破复杂任务瓶颈

• 思维链（Chain of Thought, CoT）：
  • 核心：要求模型生成中间推理步骤（如 “逐步解释如何解决数学问题”），通过分解任务提升逻辑准确性。
  • 案例：当用户问 “我 3 岁时伴侣是我年龄的 3 倍，现在我 20 岁，伴侣多大？”，CoT 提示迫使模型先计算年龄差（9-3=6 岁），再推导出当前年龄（20+6=26 岁），避免直接错误回答 “63 岁”。
  • 最佳实践：温度设为 0（确定性输出），明确 “Let’s think step by step” 指令，结合少样本示例效果更佳。
• 自一致性（Self-Consistency）：
  • 方法：多次生成不同推理路径（高温度采样），通过多数投票选择最一致答案，减少单一推理的随机性错误。
  • 适用场景：开放式问题（如邮件分类），模型可能因语气、用词歧义给出不同结论，自一致性通过 “投票” 提升可靠性。
• ReAct（Reason & Act）：
  • 创新：结合 “推理” 与 “外部工具调用”（如搜索 API、代码解释器），形成 “思考 – 行动 – 观察 – 迭代” 循环。
  • 案例：查询 “Metallica 乐队成员有多少孩子” 时，模型先推理出需逐个查询成员（James Hetfield、Lars Ulrich 等），再调用搜索工具获取数据并汇总，最终输出准确结果。

3. 输出控制：从参数配置到格式约束

• 采样参数（Temperature/Top-K/Top-P）：
  • Temperature：控制随机性，0 为 “贪心解码”（仅选最高概率 token，适合确定性任务，如数学计算）；1 为高随机（适合创意写作、头脑风暴）。
  • Top-K/Top-P：限制候选 token 范围，避免低概率噪声。例如 Top-K=30 表示从 30 个最高概率 token 中采样，Top-P=0.95 表示累计概率≤95% 的 token 参与采样。
  • 组合策略：通用场景推荐 “温度 0.2+Top-P 0.95+Top-K 30”，在 “创意” 与 “连贯” 间平衡；极端场景（如严格格式输出）可设温度 0+Top-K=1。
• 结构化输出（JSON/XML）：
  • 优势：通过明确 Schema（如 “{sentiment: STRING, name: STRING}”）强制模型生成可解析的结构化数据，减少自由文本中的幻觉和格式错误。
  • 工具辅助：针对 JSON 截断或格式错误，可使用 “json-repair” 库自动修复，提升工程落地可行性。

三、最佳实践：从 “能用” 到 “高效” 的关键

1. 设计原则：让提示更 “可控”
   • 示例优先：少样本示例是最有效的 “教学工具”，尤其在格式复杂任务中（如代码生成、数据解析），示例可直接定义输出模板。
   • 简洁至上：避免冗余信息，用动词明确任务（“分类”“生成”“翻译”），如将 “我需要你帮我写一个关于旅行的博客，要适合带孩子的家庭” 简化为 “扮演家庭旅行顾问，推荐 3 个适合带 3 岁孩子的纽约景点”。
   • 具体化输出：明确长度（“写 3 段”）、风格（“口语化”）、格式（“用 Markdown 列表”），减少模型 “自由发挥” 空间。
2. 工程化思维：迭代与文档化
   • 实验记录：使用表格模板记录提示版本、模型配置、输出结果（如 Vertex AI Studio 中的实验日志），便于复现和优化。
   • 模型适配：不同模型（如 Gemini、GPT-4）对提示敏感度不同，需针对模型特性调整，例如 Gemini 对系统提示的响应更精准，可优先用系统提示定义全局规则。
   • 自动化工具：利用 APE（自动提示工程）生成候选提示，通过 BLEU/ROUGE 等指标评估，减少人工试错成本。
3. 避坑指南：常见问题与解决方案
   • 重复循环（Repetition Loop）：低温度下模型过度依赖最高概率路径，高温度下随机选择导致逻辑闭环，可通过调整 Top-K/Top-P（如 Top-K=40）或限制输出长度解决。
   • 幻觉（Hallucination）：在需要事实性回答的场景（如人物信息、数据统计），强制模型引用来源（如 “请注明数据年份”）或结合外部检索（如 ReAct 技术）。

四、应用价值：重构 AI 应用开发范式

1. 降本增效：
   • 通过优化提示减少无效输出（如截断冗余内容），降低计算成本；少样本提示避免模型微调，快速适配新任务。
2. 场景覆盖：
   • 文本任务：总结、分类、翻译、创意写作（如生成营销文案、故事脚本）。
   • 代码任务：代码生成（如 Bash/Python 脚本）、解释、翻译、调试，提升开发效率（案例：30 分钟内生成可运行的文件重命名脚本）。
   • 多模态准备：虽未深入讨论，但提示工程是多模态交互（如文本 + 图像输入）的基础，未来可扩展至视觉推理、语音指令等场景。
3. 团队协作：
   • 标准化提示设计流程（如使用 Google Sheet 记录提示迭代），降低跨团队沟通成本；通过角色提示统一输出风格（如客服场景的 “友好语气”），提升用户体验一致性。

五、总结：提示工程的 “双重属性”

• 科学性：涉及模型原理（如 token 采样机制）、参数调优（温度 / Top-K 的数学意义）、效果评估（指标选择与实验设计）。
• 艺术性：需要根据任务场景灵活组合技术（如用 CoT 解决数学问题，用角色提示生成个性化内容），甚至通过 “创意句式” 激发模型潜力（如用诗歌形式引导文学分析）。

下载链接：https://pan.quark.cn/s/fef646269972