Table of Contents
prompt最佳实践
1. 什么是 Prompting?
- 与语言模型沟通:通过清晰的指令、必要的上下文、合理的信息组织,让模型按预期完成任务。
2. 关键参数
- temperature=0:降低不确定性,提高可重复性。
- max_tokens:控制输出长度与预算成本。
3. Prompt 是工程问题(迭代与实证)
- PE是工程问题: 只有最佳实践没有最优解
- 本质是“可实验、可迭代、可度量”的工程活动,持续小步优化。
4. Cache 与 System Prompt
- 多轮对话中不变的信息放入系统提示(system prompt),可被模型缓存,减少不必要的推理开销、加快响应。
5. 结构化你的信息
- 推荐使用 XML: (对比md格式)边界清晰、层次明确,便于模型解析与遵循。
6. 任务分解与操作化
- 像人完成任务一样:先列出完成任务的步骤,再按步骤指挥模型执行。
- 面向行级处理:逐行查看与处理数据,而不是一次性“看整张表”。
7. 解释说明的样例
- 明确告知模型需要输出的“信息种类/字段/格式”,降低遗漏与跳步。
8. 何时用非推理模型,何时用推理模型
- 优先非推理模型(“模板式思考”)以缩小答案空间,提高效率: 1) 把大任务拆成可控子问题,缩小搜索空间。 2) 用规则约束输出,减少跳步与遗漏。
- 升级到推理模型: 1) 问题过于复杂,没有固定的模板,让模型在更大的可能空间中搜索答案.
大家一起来讨论