AWS Machine Learning Blog· Srinivas Kini·· 6 天前AI 评分34
Postman 如何在 Amazon Bedrock 上为 4000 万开发者运行 Agent Mode
How Postman runs Agent Mode for 40 million developers on Amazon Bedrock
AI 导读
Postman 披露其 Agent Mode 在 Amazon Bedrock 上支撑 4000 万开发者的生产架构,用向量数据库把 170 多个工具按任务动态收窄到约 15 个,并隔离执行线程。团队发现可见工具集超过约 40 个后工具选择错误上升,因此把上下文而非能力视为主要瓶颈,同时用 Amazon Bedrock Guardrails 在进入 LLM 前脱敏个人信息。
来源:AWS Machine Learning Blog · aws.amazon.com