Table of Contents

  1. prompt最佳实践
    1. 1. 什么是 Prompting?
    2. 2. 关键参数
    3. 3. Prompt 是工程问题(迭代与实证)
    4. 4. Cache 与 System Prompt
    5. 5. 结构化你的信息
    6. 6. 任务分解与操作化
    7. 7. 解释说明的样例
    8. 8. 何时用非推理模型,何时用推理模型

prompt最佳实践

1. 什么是 Prompting?

  • 与语言模型沟通:通过清晰的指令、必要的上下文、合理的信息组织,让模型按预期完成任务。

2. 关键参数

  • temperature=0:降低不确定性,提高可重复性。
  • max_tokens:控制输出长度与预算成本。

3. Prompt 是工程问题(迭代与实证)

  • PE是工程问题: 只有最佳实践没有最优解
  • 本质是“可实验、可迭代、可度量”的工程活动,持续小步优化。 trae架构

4. Cache 与 System Prompt

  • 多轮对话中不变的信息放入系统提示(system prompt),可被模型缓存,减少不必要的推理开销、加快响应。

5. 结构化你的信息

  • 推荐使用 XML: (对比md格式)边界清晰、层次明确,便于模型解析与遵循。 trae架构

trae架构

6. 任务分解与操作化

  • 像人完成任务一样:先列出完成任务的步骤,再按步骤指挥模型执行。
  • 面向行级处理:逐行查看与处理数据,而不是一次性“看整张表”。

7. 解释说明的样例

  • 明确告知模型需要输出的“信息种类/字段/格式”,降低遗漏与跳步。 trae架构

8. 何时用非推理模型,何时用推理模型

  • 优先非推理模型(“模板式思考”)以缩小答案空间,提高效率: 1) 把大任务拆成可控子问题,缩小搜索空间。 2) 用规则约束输出,减少跳步与遗漏。
  • 升级到推理模型: 1) 问题过于复杂,没有固定的模板,让模型在更大的可能空间中搜索答案.

请我喝杯咖啡

示例图

Written by

雷哥(微信:leigeaicom)

带你AI编程和AI工程化落地, 让你少走弯路, 做更有价值的创造者.

大家一起来讨论