Meta 的 Muse Spark Open 上线 Amazon SageMaker JumpStart
Meta 的编码优化开源权重模型 Muse Spark Open 现已在 Amazon SageMaker JumpStart 上线,可在自己的 AWS 账户中部署到 SageMaker AI 端点。
推荐理由:Meta 的编码优化开源权重模型上线 SageMaker JumpStart,读者可了解两种量化变体与实例选型差异。
Meta 的编码优化开源权重模型 Muse Spark Open 现已在 Amazon SageMaker JumpStart 上线,可在自己的 AWS 账户中部署到 SageMaker AI 端点。
推荐理由:Meta 的编码优化开源权重模型上线 SageMaker JumpStart,读者可了解两种量化变体与实例选型差异。
微软研究院发布零知识虚拟机 Magnetar,可证明用 Rust、Go 或 C 编写的 RISC-V 程序执行过程,在笔记本上每秒证明 720 万至 870 万条处理器指令。
推荐理由:微软研究院公开 Magnetar 的设计与基准数据,可了解零知识证明在通用程序上的性能与密码学取舍。
AWS 副总裁 Shawn Bice 提出 Trust in Depth 框架,主张在动作可被验证时让智能体自主执行,把人工判断留给真正需要决策的环节。框架按智能体生命周期分为四层:Scope 在运行前界定职责与权限边界,Know 为每个智能体分配独立身份并追踪授权来源,Bound 在运行时于智能体推理之外强制执行策略,Observe 在每次运行后重建其行为并用于改进。
推荐理由:AWS 高管把 Defense in Depth 的思路搬到智能体治理上,给出可验证的四层框架与配套产品入口。
亚马逊云科技发布基于 Amazon Bedrock AgentCore 的智能体文档处理(IDP)方案,用 8 个专用智能体组成识别与训练两条图工作流,自动分类、提取、校验并从新文档格式中学习。
基于 Amazon Bedrock AgentCore 构建的 AI 智能体系统可自动生成客户 PowerPoint 演示文稿,内部测试中完成时间不到 90 秒。
Tamnoon 基于 Amazon Bedrock 构建了智能体式云修复编排器 Tami,可自主调查 CNAPP 等来源的安全发现并评估修复安全性,再生成带护栏和回滚指引的修复方案。该方案在 90 天内将关键云暴露减少超 90%,且未引发任何生产问题。Tami 通过单一 API 为调查、安全评分、修复、代码生成四类智能体分别调用最合适的模型。
Amazon SageMaker JumpStart 提供预训练模型目录,可按可复用 Python 脚本完成部署、用示例提示词测量延迟与单请求生成速率,并在测试后删除端点。
Block 正基于 OpenAI 技术构建 AI 驱动的安全体系,其安全团队借此更快调查威胁,并能在数分钟内提出补丁方案。
Anchor Browser 与 Amazon Bedrock AgentCore payments 集成,让 AI 智能体在浏览器会话内自动应对 HTTP 402 付费挑战,为 x402 保护的网页和 API 完成支付并重试请求。
GitHub 为密钥扫描训练了专用的 ModernBERT 分类器,替代此前的 LLM 流水线,用户告警接受率提升 11.5%,推送后扫描执行时间中位数降低 86%,服务成本降低 98% 以上。该方案采用两阶段流水线:先用正则高召回生成候选,再由微调后的 ModernBERT 结合文件路径、变量名和上下文判断是否为真实凭证。效率提升使通用密钥检测得以扩展到推送保护,在推送被接受前即可返回结果。
Amazon Bedrock 的托管权益(managed entitlements)支持从中心账户一次订阅、向组织内多账户分发第三方模型访问权限。AWS 提供两条激活 AWS Marketplace 私有定价优惠(MPPO)权益的路径:轻量脚本用于一次性激活,CDK 自动化通过 EventBridge 和 Lambda 持续处理协议事件、校验卖家并创建分布式授权。
Orca Security 与 AWS 合作在 Amazon Bedrock 上构建了自然语言查询智能体 Discovery AI,可将自然语言问题转换为 Sonar 查询。
ShipStation Global 工程团队基于 Amazon Bedrock AgentCore 打造了 Slack 内的 AI IT 服务台 Deckhand,可回答常规 IT 问题、识别报错截图并创建和更新 Jira Service Management 工单,上线后解决了 97.5% 的频道查询,员工正面反馈率达 96%。
SpaceXAI 的 Grok 4.7 已在 Amazon Bedrock 上线,支持可配置推理强度、工具调用和结构化输出,提供 500K token 上下文窗口。
推荐理由:AWS 官方给出 Grok 4.7 在 Bedrock 上的实测数据,读者可据此为智能体各步骤选择推理强度并控制 token 成本。
针对 MoE 模型在 decode 阶段因 token 行数过少导致 Hopper GPU 利用率低的问题,AWS 通过 Swap-AB 转置让专家维度 N=8192 占据 WGMMA 首个操作数位置,在 H200 上为大规模 MoE 模型带来 2–4% 端到端输出吞吐提升,该优化已合入 vLLM 0.24.0 及更高版本。
Amazon Bedrock 面向亚太五个 AWS 区域开放 OpenAI GPT-6 Sol、GPT-6 Luna 和 GPT-6 Astra 的全球跨区域推理,调用时用 global cross-Region inference profile ID 替代模型 ID。
AWS 发布 llama.cpp 专用深度学习容器(DLC),可在 Amazon SageMaker AI 上以 CPU 或 GPU 托管方式部署量化模型,并通过 InvokeEndpoint 提供 OpenAI 兼容的 chat completions。
AWS 发布面向多节点部署的 Ray LLM Deep Learning Containers,可在 Amazon EKS 上用两个 GPU 节点部署单个大语言模型,将 prefill 与 decode 分离并统一在一个 OpenAI 兼容端点之后。
Amazon Bedrock 9 月新增 OpenAI 的 GPT-6 Astra、Sol、Luna 系列模型,其中 GPT-6 Astra 支持最高 100 万输入 token,Ultrafast 版本推理速度最高提升 6 倍、达 300 tokens/秒。
Postman 披露其 Agent Mode 在 Amazon Bedrock 上支撑 4000 万开发者的生产架构,用向量数据库把 170 多个工具按任务动态收窄到约 15 个,并隔离执行线程。团队发现可见工具集超过约 40 个后工具选择错误上升,因此把上下文而非能力视为主要瓶颈,同时用 Amazon Bedrock Guardrails 在进入 LLM 前脱敏个人信息。
Sophos 使用 OpenAI 的 Daybreak 将网络威胁调查时间缩短 96%,并自动化处理 52% 的 MDR 案例,同时保留人工监督。
Incarna 借助 Amazon Bedrock AgentCore payments,让智能体通过 x402 按次向 BlockRun 支付模型推理费用,将接入 x402 支付支持的工作量从数月缩短到数天,并已把端到端按次付费推理流程投入生产。
Amazon SageMaker HyperPod 发布多租户参考架构,让多个团队共享同一套 EKS GPU 集群。
LegalOn 将 Codex 每日预估成本降低 65%,同时保持开发速度。其做法是按任务匹配 Astra、Sol 和 Luna,并对预算进行策略性管理。
AWS 宣布 Claude Haiku 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上线,据 Anthropic 介绍它是 Claude 5.5 系列中速度最快、效率最高的模型,面向子智能体和高并发、成本敏感场景,多数任务成本比 Claude Haiku 4.5 低约 75%。
推荐理由:AWS 官方给出 Haiku 5.5 的定位、成本变化与接入方式,可据此判断它在多智能体分层中的位置。
GitHub 发布与 Microsoft Applied Sciences 联合微调的 ModernBERT 分类器,用代码上下文识别非结构化密钥,可在 2 毫秒内评估一批候选密钥,据称能把可拦截的密钥数量提升一倍以上。
推荐理由:GitHub 用九个季度数据说明密钥泄露与代码量同步增长,并给出把检测前移到 push 环节的模型方案。
微软研究院开源 Agent Lightning v1.0,一个约 3500 行代码的轻量级智能体强化学习框架,提出 Harnessed Agentic RL 范式,让部署时使用的同一 agent harness 直接参与训练,无需在训练框架内重新实现智能体。
推荐理由:微软研究院开源 Agent Lightning v1.0,给出真实 harness 参与 RL 训练的思路与 3500 行代码实现,可迁移到自有智能体训练流程。
OpenAI 发布 GPT-6 家族模型指南,面向初创公司讲解如何选择 GPT-6 模型、调节推理强度、优化提示词与技能、协调工具调用,并为生产环境准备工作流。
Chatham Financial 使用 Codex 和 GPT-5.6 构建技术并重新设计工作流程,将交易验证时间从 30 分钟缩短至 4 分钟以内。
微软研究院实习生开发了一套端到端机器学习流水线,结合太阳风观测、AE 与 Dst 指数预报、地质电导率和电网数据,为美国本土 66,935 座变电站生成 30-60 分钟前的局地空间天气风险估计。
GitHub Copilot 应用中的 canvas 是一种可自定义界面,用户和智能体共享同一份状态,可做成看板、issue 分诊板、发布清单、仪表盘、表单甚至表格。
推荐理由:原文给出用 /create-canvas 从自然语言描述生成可双向协作界面的完整步骤,可迁移到自定义工作流搭建。
GitHub Copilot 提出 canvas 概念:一种运行在 GitHub Copilot 应用内、无浏览器外壳的全栈小应用,可与 agent 双向通信,也能调用第三方 API 并在本地执行代码。
GitHub Security Lab 发布 Fuzzing Taskflow,一个面向 C/C++ 项目的自主模糊测试流水线,只需指向一个 GitHub 仓库,它就会识别入口点、分析构建系统、编写 harness、运行 AFL++、读取覆盖率报告并改进 harness,最后对每个崩溃做分诊并生成漏洞报告。
推荐理由:GitHub Security Lab 把模糊测试的 harness 编写、覆盖率追踪与崩溃分诊交给 LLM 智能体,读者可了解其任务流设计与安全边界。
微软研究院对移动操作机器人工作负载做了系统性测量,发现把物理 AI 推理从机器人端侧 GPU 卸载到边缘或云端 GPU,可提升任务成功率、支持更大模型并延长电池续航。
推荐理由:微软研究院系统测量了机器人端侧推理的瓶颈,并给出可复用的 Kubernetes 卸载方案与开源工具链。
Berkeley Sky Lab 与 IBM Research 将进化式内核搜索框架 K-Search 扩展到 MLX,新增结构化 CUDA-to-MLX 翻译层,让已有 CUDA 内核作为知识库适配 Apple Silicon。
推荐理由:原文给出跨平台内核迁移的具体方法与实测数据,读者可据此判断CUDA经验能否复用到非NVIDIA硬件。
UC Berkeley 团队提出,GPT-4 级能力从 2023 年初的约 $30/百万 token 降至如今不到 $1,部分厂商已低于 $0.10,推理价格年降幅在 9x 到 900x 之间、中位数约 50x。近乎免费的推理成本带来三类数据系统挑战:为智能体服务、由智能体运行、由智能体合成,其中智能体推测式查询会产生 80-90% 的重复子查询。
伯克利 AI 研究团队梳理了并行推理领域进展,指出当前多数方法(如 Self-consistency、Best-of-N、Tree of Thoughts、MCTS、ParaThinker、GroupThink、Hogwild!
伯克利 AI 研究团队提出梯度规划器 GRASP,通过将轨迹提升到虚拟状态实现跨时间并行优化、在状态迭代中直接注入随机性以探索、并重塑梯度让动作获得清晰信号,同时避开高维视觉模型中脆弱的"状态-输入"梯度,使基于学习动力学(世界模型)的长时程规划变得实用。该工作与 Mike Rabbat、Aditi Krishnapriyan、Yann LeCun、Amir Bar 合作完成。