关键认知:
大部分是确定性代码,只在关键点加入LLM
现状分析
真实情况
- 很多优秀创始人都在用AI做产品
- 他们大多自己搭建技术栈
- 生产环境中很少看到框架化的Agent
问题发现
- 自称”AI Agent”的产品其实不够智能
- 大部分是确定性代码,只在关键点加入LLM
- 这种模式让体验变得神奇
核心问题
错误做法
不要用这种模式:给个提示词,给一堆工具,循环直到达成目标。
记住:Agent本质上是软件。
关键问题
如何构建真正能交付给生产客户的LLM软件?
框架的问题
主要缺陷
- 过度抽象和封装
- 限制了灵活性
- 效果不如预期
典型失败路径
- 决定构建Agent
- 产品设计,用户体验规划
- 想快速推进,选择某个框架
- 达到70-80%质量
- 发现80%不够好
- 发现要突破80%需要逆向工程框架
- 重新开始
正确做法
不要用框架
逐步构建:把Agent的小模块概念融入现有产品,这是最快让客户用上好AI软件的方法。
Agent失败原因
上下文窗口太长时,Agent会迷失方向,反复尝试同样的错误方法。
可落地的Agent方案
让语言模型管理范围明确的任务集合,这样容易融入人工反馈,避免陷入上下文错误循环。
原文: https://github.com/humanlayer/12-factor-agents
大家一起来讨论