作者 ｜ Leela Kumili

译者 ｜ 平川

DoorDash 分享了其对话式 AI 助手 Ask DoorDash 的架构。该助手通过自然语言交互帮助消费者发现餐厅、规划餐食并添加商品到购物车。在分成三期的工程深度解析中，该公司详细介绍了如何利用大型语言模型、专用 AI 代理、基于模型上下文协议（MCP）的工具、持久化用户记忆以及 基础设施评估自动化 构建了该系统，从而在生产环境中运行基于 AI 的用户体验。

DoorDash 公布的初步测试结果显示，在为期七天的评估期间，计算型消费者记忆功能使生鲜杂货的结账转化率提高了约 24%，购物车规模增加了 17%，对话轮次减少了 7%。在餐厅搜索方面，该助手将开放式查询的转化率提高了 15%。该公司还表示，通过自动化评估，AI 代理的质量衡量标准也得到了改进，可以更快地验证模型和系统变更。

正如 DoorDash 推荐系统与搜索负责人 Raghav Saboo 在一篇 博文 中所指出的那样：

构建一个有用的 AI 助手很难。而判断它是否真正优秀，则更难。

为了验证生产环境中 AI 代理的行为，DoorDash 构建了一个自动评估框架。该框架利用大型语言模型（LLM）生成的用户和预先录制好的工具场景来模拟有状态的客户对话。该框架模拟了生产环境的运行时环境，可以独立评估协调机制、防护机制和领域代理。DoorDash 表示，该平台将质量测量规模扩展至每日超过 2000 次自动评估，质量评分提高了 8 分，回归测试时间从 6 小时缩短至 20 分钟。他们还完成了一次模型迁移验证，在保持服务质量不变的前提下将延迟降低了 35%。

Ask DoorDash 的架构实现了协调机制与业务功能的分离。助手运行时负责协调各专用代理之间的交互，而共享的 MCP 层则提供业务功能，包括商品目录搜索、推荐、购物车、结账、订单历史和用户记忆。该助手并未将业务逻辑直接嵌入到提示语中，而是调用由现有的 DoorDash 服务提供支持的可复用的工具。这使得多种 AI 体验能够共享集成功能，同时后端能力也可以独立演进。

DoorDash 助手运行时架构（图片来源：DoorDash 博客）

在 LinkedIn 上宣布这项功能的 博文 中，该公司指出了其中的一项核心挑战：

代理不仅需要访问用户数据，还需要在恰当的时刻，针对恰当的任务，获得恰当的上下文信息。

DoorDash 引入了一个智能层，通过三个记忆系统来管理个性化服务。长期记忆基于历史消费行为在离线状态下生成，用于捕捉用户偏好，例如喜爱的菜系和饮食限制。会话记忆在交互过程中维护对话上下文，而代理记忆则存储用户提供的明确信息。相关记忆通过语义向量搜索检索、排序并整合到提示词中，实现了记忆管理与模型推理的分离。

横跨代际、工具层、存储、策略和代理的记忆架构 （图片来源：DoorDash 博客）

在 LinkedIn 上宣布该功能的 博文 中，DoorDash 联合创始人 Andy Fang 表示：

Ask DoorDash 生成购物车的速度比手动操作快大约 5 倍，只需一条提示，即可在 2 分钟内完成购物车的生成。

DoorDash 强调，该平台通过运营优化提升了响应速度和可靠性，包括确定性操作（无需调用大语言模型即可完成版本化资源的更新），以及对推荐结果和生成的购物车设置进行确认的工作流。该架构非常契合 DoorDash 的工程模式：领域团队负责构建专用的代理，而平台团队则负责维护编排、MCP 工具、记忆管理、评估以及共享组件。

DoorDash 指出，虽然生产环境中 AI 代理的复杂性会因编排、检索和工具协调而增加，但这些投入能够实现基础设施的可复用性，增加可靠性，并支持领域能力的独立演进。