J.P. Morgan AI Engineer 面经|System Design 真题:设计一个自动处理邮件的 Agentic AI 系统 – 一亩三分地 – 代面试 – 面经

Agentic AI 的系统架构设计,包括多 Agent 协作、RAG、工具调用、人工审核以及生产环境中的系统评估。

题目本身不算特别复杂,但面试官会不断深入各个组件,要求解释具体的实现逻辑。

一、面试原题:Agentic Email Processing System

Goal Question(英文原题):

Design an agentic system that can autonomously process incoming emails and address them appropriately based on their content.

题目背景是,大型企业每天会收到大量邮件,包括客户咨询、支持请求、内部沟通和系统通知。人工处理这些邮件效率较低,也容易出错。

要求设计一个智能 Agent 系统,能够自动接收邮件、理解邮件内容和用户意图,并采取适当的操作。

这些操作包括自动回复、邮件转发、升级人工处理,以及归档等。

系统还需要具备良好的可靠性、扩展性,能够处理不同类型的邮件和业务场景。

这道题不是简单调用 LLM 生成邮件回复,而是要求设计一套真正可以在企业环境中运行的 Agentic AI 系统。

二、需求分析:每天处理 10,000 封邮件

开始设计后,首先讨论的是系统的 Functional Requirements 和 Non-functional Requirements。

候选人提出,需要考虑邮件接入、内容理解、意图识别、Agent 决策、工具执行以及人工审核。

在非功能性需求方面,面试官给出了两个具体条件:

每天处理约 10,000 封邮件,系统 SLA 为 5 分钟。

因此,架构需要支持异步处理、任务队列、失败重试和去重机制,确保在邮件高峰期也能稳定运行。

随后面试官问了一个问题:

"What is the preferred business metric here?"

这里并不是问模型的 Accuracy、Precision 或 Recall,而是业务真正希望实现什么目标。

讨论中提到了 Email Automation Rate 和 Successful Resolution Rate,即有多少邮件可以不依赖人工完成处理,以及最终有多少用户请求被成功解决。

对于金融机构而言,准确率和安全性也很重要。即使能够实现较高的自动化率,如果 Agent 执行了错误操作,也可能造成严重问题。

三、系统架构:从邮件接入到 Agent 执行

候选人开始在白板上设计整体架构。

第一层是 Email Ingestion Service,负责从 Outlook、Gmail 等邮件服务中获取邮件。邮件进入系统后,通过 Kafka 等消息队列进行异步处理。

下一层是 Email Processing Service,负责解析邮件正文、附件以及结构化信息。

真正的核心部分是 Agentic Orchestrator。

候选人的设计中包含 LLM、Action Planner、RAG Service、Vector Database、Policy Agent 和 Human Review 等组件。

LLM 用于理解邮件意图,Action Planner 根据用户请求生成行动计划,RAG 从企业知识库中检索相关政策或历史上下文。

Orchestrator 则负责管理整个执行过程,包括维护状态、调用工具、处理执行结果,以及决定下一步操作。

在金融业务场景下,还需要保留完整的 Audit Log,记录 Agent 访问过哪些数据、执行了什么操作,以及是否经过人工审批。

四、面试官重点追问:Orchestrator 和 Action Planner 有什么区别?

这是整个系统设计过程中讨论得比较深入的一部分。

面试官问:

"Can you clarify the back and forth between agent orchestrator and action planner?"

候选人解释,Orchestrator 负责控制整个 Workflow,而 Action Planner 负责决定具体应该执行哪些 Action。

面试官没有停留在这个抽象解释上,而是要求给出实际例子。

候选人使用了一封客户退款邮件作为示例:

假设用户发送邮件,表示自己上周购买的笔记本电脑收到时已经损坏,希望申请退款。

系统首先识别用户的退款意图。

Orchestrator 将邮件内容及上下文交给 Action Planner,后者决定需要查询订单详情、检查退款政策、判断退款资格,再生成回复。

Orchestrator 根据计划调用订单查询工具,并将查询结果交回 Planner,继续决定下一步操作。

面试官进一步要求解释每一步的输入、输出,以及两个组件之间传递的数据。

这里真正考察的是:候选人能否把抽象的 Agent 架构转换为具体、可执行的工作流程。

仅仅画出 Planner、Orchestrator 和 Tool Execution 几个模块还不够,还需要解释每个模块究竟负责什么。

五、如何保证 Agent 没有偏离用户的原始请求?

接下来面试官问:

"How do you ensure that the final output is aligned to what the user initially asked?"

这是 Agentic AI 系统中非常实际的问题。

当 Agent 需要执行多个步骤、调用不同工具时,很容易因为中间结果而偏离最初的用户目标。

候选人提出,通过结构化的 Goal 和最终结果校验来保证一致性。

例如,原始请求是处理某个订单的退款,系统就需要持续维护订单 ID、用户意图、执行状态和预期结果。

最后生成回复时,需要确认是否真正回答了用户最初的问题。

面试官还继续追问,是否需要单独的 Validation Component,还是直接依赖主 Agent 判断。

这个问题也说明,在企业级 Agent 系统中,任务完成不等于工具调用成功。最终结果是否符合用户目标,同样需要验证。

六、Human-in-the-loop:什么时候必须人工审核?

面试官随后询问,人工干预应该放在整个架构的哪个位置。

候选人引入了 Policy Agent,用于验证操作权限、业务规则以及是否需要人工审批。

对于普通的信息查询,系统可以自动执行。

对于敏感操作,例如金融交易、退款、账户信息修改等,则需要根据预设规则决定是否进入 Human Review。

这里面试官特别确认:

"Are those checks deterministic checks?"

也就是说,这些权限和审批规则究竟由 LLM 自由判断,还是由确定性的业务逻辑控制?

候选人表示,权限检查和操作验证应该采用确定性规则。

这是金融行业 Agent 系统的一项重要设计原则:LLM 可以辅助理解意图、制定计划,但涉及资金和权限的关键操作,不能完全依赖模型自由决策。

七、最后的难点:没有 Ground Truth,如何评估 Agent?

面试最后一部分主要围绕 Evaluation 展开。

候选人首先提出,可以评估 Intent Classification Accuracy、Action Selection Accuracy、Tool Selection,以及平均处理时间等指标。

面试官随即指出一个现实问题:

"How do you come up with labels?"

在真实生产环境中,并不存在完整的标准答案。

邮件的意图分类需要自己定义,正确的 Action 也没有现成标签,那么应该怎样衡量模型的准确率?

候选人提出,首先收集真实邮件,通过相似语义聚类建立初步分类,再由人工审核确定不同邮件对应的类别。

对于 Action 和 Tool Selection,也可以收集人工审核后的执行案例,记录用户的原始请求、Agent 生成的计划、实际工具调用及人工反馈。

逐渐建立用于离线测试的数据集。

面试官还特别指出,工具返回的数据符合 Schema,并不代表 Agent 选择了正确的工具。

例如,查询订单接口成功返回了订单 ID、金额和日期,只能证明调用正常,不能证明这次调用符合用户的真实意图。

因此,Evaluation 需要区分工具执行是否成功,以及 Agent 的决策是否正确。

这一部分是本次面试比较有代表性的考点。

八、这次 J.P. Morgan System Design 的整体感受

这道题虽然叫 Agentic System Design,但面试官并没有要求复杂的模型算法,也没有深入讨论 Transformer 的底层原理。

更多时间花在如何构建一个真正可以落地的企业级 AI 系统上。

比如 Orchestrator 和 Planner 的职责是否清晰,RAG 获取的上下文是否有实际用途,Agent 能否持续追踪用户目标,敏感操作如何审批,以及缺乏 Ground Truth 时如何建立评估机制。

面试官会不断要求用具体业务案例解释设计,而不是停留在技术概念层面。

对于准备金融行业 Applied AI Engineer、AI Agent Engineer 或 LLM Engineer 岗位的同学,这类问题非常值得练习。

尤其是已经熟悉 LangChain、LangGraph 和 RAG 的候选人,需要进一步准备 Agent 在生产环境中的可靠性、安全性、状态管理和评估方法。

关于 csoahelp 面试辅助

Agentic AI 和 LLM System Design 已经成为不少 AI Engineer 岗位的重要考察内容。

这类面试的难点往往不是完全不会设计,而是面试官会根据回答不断深入追问,要求候选人把抽象概念落实到实际业务流程。

csoahelp 长期整理北美科技公司及金融机构的真实面试题目,提供针对性的 Mock Interview 和实时文本面试辅助服务。

对于 AI Engineer 和 System Design 面试,我们可以帮助候选人提前熟悉常见的架构问题、业务场景和追问方向,并在面试中辅助梳理技术思路和英文表达。

无论是 RAG、Agentic Workflow、Multi-Agent Architecture,还是传统 Coding 与 System Design,都可以根据具体岗位进行准备。

我们也有代面试,面试辅助,OA代写等服务助您早日上岸~

Leave a Reply

Your email address will not be published. Required fields are marked *