随着智能体系统（Agentic systems）融入我们的工作流程，其成功不仅取决于原始能力，更取决于它们如何与人类协作。本章汇集了交互层面的机制（界面、不确定性信号、交接）和治理结构（监督、合规、信任校准），旨在将不透明的助手转变为可靠的队友。有效的协作取决于对自主权的校准：知道智能体何时该独立行动，何时该提问，以及何时该完全听从人类的安排。我们将探讨……继续阅读 » Alan 2周前 (01-12) 409浏览 0评论0个赞
AI智能体（AI Agents）的采用引入了与传统软件截然不同的安全挑战。智能体系统——以其自主性、高级推理能力、动态交互和复杂工作流为特征——显著扩大了威胁态势。要有效地保护这些系统，不仅需要解决传统的安全问题，还需要应对智能体自主性、概率性决策以及对基础AI模型和数据的广泛依赖所带来的特有漏洞。生成式AI在网络安全领域引入了一个强大且不断扩展的威胁向……继续阅读 » Alan 2周前 (01-11) 393浏览 0评论0个赞
在任何足够复杂的多智能体系统（Multiagent System）中，故障并非异类——它是不可避免的。这些系统在动态的现实环境中运行，与形形色色的用户、不可预测的输入以及快速变化的外部数据源进行交互。即使是设计最精良的系统，也会遇到边缘情况、模棱两可的指令以及初始设计未曾预料到的涌现行为。但是，对系统的真正考验不在于它是否会失败，而在于它如何从这些失败中学……继续阅读 » Alan 2周前 (01-10) 405浏览 0评论0个赞
无论你是产品负责人、机器学习 (ML) 工程师，还是站点可靠性工程师 (SRE)，一旦智能体（Agent）上线生产环境，就需要了解它们在做什么以及为什么这样做。发布智能体系统仅仅是走完了一半的路程。真正的挑战始于你的智能体在动态、不可预测且高风险的环境中运行之时。监控是从现实中学习的方式——它是如何在故障升级前捕捉它们，在用户注意到之前识别回退（Regre……继续阅读 » Alan 3周前 (01-09) 400浏览 0评论0个赞
构建产品和应用程序从未像现在这样简单，但有效地度量这些系统仍然是一个巨大的挑战。虽然团队通常面临着快速发布的压力，但花时间严格评估性能和质量能带来长期的回报，并最终使团队能够以更强的信心更快地行动。如果没有严格的评估和度量，关于发布哪些变更的决策将变得更加困难。严格的度量和验证不仅对于优化性能至关重要，而且对于建立信任和确保符合用户期望也是必不可少的。……继续阅读 » Alan 3周前 (01-08) 383浏览 0评论0个赞
大多数用例都始于单个智能体（Agent），但随着工具数量的增加，以及所希望智能体解决的问题范围扩大，引入多智能体（Multiagent）模式可以提高整体性能和可靠性。正如我们在软件工程中看到的那样，将所有代码放在单个文件中，或将所有后端服务器捆绑成一个单体应用（Monolith）通常不是个好主意；我们在软件架构和服务设计中学到的许多原则，在构建基于 AI……继续阅读 » Alan 3周前 (01-07) 413浏览 0评论0个赞
本章涵盖了在智能体（Agentic）系统中引入和集成学习能力的不同技术。赋予智能体随时间推移不断学习和改进的能力是一项极其有用的补充，但这并非设计智能体时的必要条件。实现学习能力需要额外的设计、评估和监控，具体是否值得投入取决于应用场景。这里我们所说的学习，是指通过与环境的交互来提升智能体系统性能的过程。这一过程使智能体能够适应不断变化的条件，优化其策略，……继续阅读 » Alan 3周前 (01-06) 413浏览 0评论0个赞
既然我们的智能体已经拥有了工具和编排能力，它现在完全有能力采取行动来完成实际工作。然而，在大多数情况下，你会希望智能体既能记住发生过的事情，又能知道超出模型权重之外的额外信息。在本章中，我们将通过两个互补但截然不同的方式来丰富智能体的上下文：知识与记忆。知识（通常通过检索增强生成即 RAG 来实现）是在生成时引入的事实性或领域特定内容——如技术规范、政策……继续阅读 » Alan 3周前 (01-05) 421浏览 0评论0个赞
现在我们的智能体（Agent）已经拥有了一套可用的工具，是时候对它们进行编排以解决实际任务了。编排不仅仅是决定调用哪些工具以及何时调用，它还涉及为每个模型调用构建正确的上下文，以确保采取有效且有据可依的行动。虽然简单的任务可能只需要单一工具和最少的上下文，但更复杂的工作流需要仔细规划、记忆检索和动态上下文组装，才能准确地执行每一步。本章将涵盖编排策略、上下……继续阅读 » Alan 3周前 (01-04) 396浏览 0评论0个赞
虽然基础模型（Foundation Models）非常擅长进行长时间的聊天，但工具才是赋予 AI 智能体（AI Agents）能力的基石，使其能够检索额外信息和上下文、执行任务，并以有意义的方式与环境进行交互。在 AI 的语境下，工具可以定义为智能体为达到预期结果而执行的一项特定能力或一组动作。这些工具的范围很广，从简单的单步任务，到需要高级推理和解决问题……继续阅读 » Alan 3周前 (01-03) 423浏览 0评论0个赞
