Building production ready AI Agents on Amazon EKS


title: “在 Amazon EKS 上构建生产就绪的 AI Agents” weight: 0


欢迎!

This workshop is designed to run at **AWS-hosted events** using Workshop Studio provisioned accounts. It is not supported in customer-owned AWS accounts.

在这里,相同的 agent,不同的底层基础。

我们将学到什么

  1. 在 EKS 上部署 LLMs,使用运行在 AWS Inferentia 芯片上的 vLLM
  2. 构建 AI agents,使用 Strands Agents SDK
  3. 可观测性,使用托管在 EKS 上的 Langfuse
  4. 内存管理,使用 Milvus(向量数据库)和 Amazon AgentCore Memory
  5. Agent 工具访问,使用 MCP 和 AgentCore 托管沙箱
  6. 多 agent 交互,使用 A2A 协议

Workshop 结构

两条学习路径。两者最终都会得到相同的可运行 agent。

  • 自管理 GenAI 策略:所有内容都在 EKS 上:模型服务(Inferentia 上的 vLLM)、可观测性(Langfuse)、内存(Milvus)、工具(MCP)
  • 集成 GenAI 策略:EKS 加上 AWS 托管服务:Amazon Bedrock、AgentCore Memory、AgentCore Browser + Code Interpreter

目标受众

面向在 Kubernetes 上构建 agents 的平台、ML 和软件工程师的 300+ 级别 workshop。

前提条件

  • 基本的 Kubernetes 概念(pods、deployments、services)
  • 熟悉 Python
  • 对 LLMs 和 agents 有大致了解