Table of Contents

  1. 现状分析
    1. 真实情况
    2. 问题发现
  2. 核心问题
    1. 错误做法
    2. 关键问题
  3. 框架的问题
    1. 主要缺陷
    2. 典型失败路径
  4. 正确做法
    1. 不要用框架
    2. Agent失败原因
  5. 可落地的Agent方案

示例图

关键认知:

大部分是确定性代码,只在关键点加入LLM

现状分析

真实情况

  • 很多优秀创始人都在用AI做产品
  • 他们大多自己搭建技术栈
  • 生产环境中很少看到框架化的Agent

问题发现

  • 自称”AI Agent”的产品其实不够智能
  • 大部分是确定性代码,只在关键点加入LLM
  • 这种模式让体验变得神奇

核心问题

错误做法

不要用这种模式:给个提示词,给一堆工具,循环直到达成目标。

记住:Agent本质上是软件。

关键问题

如何构建真正能交付给生产客户的LLM软件?

框架的问题

主要缺陷

  • 过度抽象和封装
  • 限制了灵活性
  • 效果不如预期

典型失败路径

  1. 决定构建Agent
  2. 产品设计,用户体验规划
  3. 想快速推进,选择某个框架
  4. 达到70-80%质量
  5. 发现80%不够好
  6. 发现要突破80%需要逆向工程框架
  7. 重新开始

正确做法

不要用框架

逐步构建:把Agent的小模块概念融入现有产品,这是最快让客户用上好AI软件的方法。

Agent失败原因

上下文窗口太长时,Agent会迷失方向,反复尝试同样的错误方法。

可落地的Agent方案

示例图

让语言模型管理范围明确的任务集合,这样容易融入人工反馈,避免陷入上下文错误循环。

原文: https://github.com/humanlayer/12-factor-agents

Written by

雷哥(微信:leigeaicom)

带你AI编程和AI工程化落地, 让你少走弯路, 做更有价值的创造者.

大家一起来讨论