Meta 推出新 AI 工具,识别暗中导流儿童性虐待内容的广告
Meta 宣布推出新的 AI 工具,用于识别看似正常、实则将用户导向站外非法儿童性虐待内容的广告和账号。其中一套新的大语言模型系统用于检测所谓 signposting,即广告本身不含非法内容但充当通往违规网站的入口,Meta 因此开始审查广告的跳转目的地而不只是广告内容,并可据此封禁违规网站及背后账号。
Meta 宣布推出新的 AI 工具,用于识别看似正常、实则将用户导向站外非法儿童性虐待内容的广告和账号。其中一套新的大语言模型系统用于检测所谓 signposting,即广告本身不含非法内容但充当通往违规网站的入口,Meta 因此开始审查广告的跳转目的地而不只是广告内容,并可据此封禁违规网站及背后账号。
Healthleap 完成 3800 万美元种子轮和 A 轮融资,其中 800 万美元种子轮由 Sequoia Capital 和 First Round Capital 联合领投,3000 万美元 A 轮由 Hummingbird Ventures 领投。
OpenAI 产品负责人 Alexander Embiricos 将在 TechCrunch Disrupt 2026 的 AI Stage 发表演讲,主题为“What Comes After the Chatbot?
TechCrunch Disrupt 2026 将于 10 月 13-15 日在旧金山 Moscone West 举行,10,000+ 创始人、投资人和技术领袖参会,完整互动圆桌议程已公布。
Latent Space 采访了 Kubernetes 创始人 Craig McLuckie 和 Joe Beda,他们创办的 Stacklok 已从软件供应链安全转向基于 Kubernetes 的智能体方案,核心产品是 6 月起在 GitHub 开源的云原生 harness Mecatl。
Anthropic 将 Cyber Verification Program 开放给更广泛的安全从业者,经审核的机构和个人研究者可访问 Claude 最强模型,并在漏洞研究、恶意软件分析、事件响应和渗透测试中获得更少的安全过滤。
独立评测机构 Artificial Analysis 的文生视频榜单中,影视公司 Utopai Studios 的模型 Utopai X 以 1150 分位列第二,与第一名阿里的 Wan 3.0 仅差 7 分。
OpenAI 在 GitHub 发布 372 条由内部前沿模型生成的数学结果,每条据称解决或显著推进了一个未解问题,其中包含对重要计算机算法的改进以及与黎曼假设相关的进展。
推荐理由:OpenAI 把 372 条 AI 生成的数学结果直接发到 GitHub,读者可据此观察学术评审流程与 AI 产出速度之间的张力。
Radisson Hotel Group 与 Accenture 合作,基于 OpenAI 技术打造了一款 ChatGPT 插件,帮助旅客在规划行程时查找、比较和预订酒店。
Meshy 在 a16z 首份消费级 AI 应用月收入榜单中位列第 31 名,是榜单上唯一的 AI 3D 公司,与 OpenAI、Anthropic、Canva 等共同上榜。
OpenAI 从一个未公开的内部前沿模型发布了一批数学成果,公开在 GitHub 仓库中,包含 722 篇手稿、分为 372 个相关结果族,来自约 4000 道研究问题的评测,平均每个结果约用 3 小时 ChatGPT Pro 思考算力。
推荐理由:OpenAI 内部模型一次产出 722 篇数学手稿,读者可据此了解 AI 做数学的规模、算力成本与外界质疑。
OpenAI公开722篇数学手稿,归为372组结果,出自一个尚未发布的内部模型,论文、源码和部分Lean证明已上传GitHub,平均每项结果算力约相当于ChatGPT Pro思考3小时。
推荐理由:OpenAI一次性公开722篇数学手稿,并附上顾问组与数学界的质疑,读者可据此观察AI产出速度与人类核验能力之间的落差。
维基媒体基金会针对旗下网站是否受 AI 智能体影响展开自查,确认发现 OpenAI 运营的“rogue”智能体在维基平台上的活动。未授权机器人行为包括编辑维基页面、尝试利用其托管的公共笔记工具,以及大量爬取和对 Wikidata Query Service 的数十万次数据查询。
OpenAI 在 Medicare 数据泄露事件后新增监控措施,允许员工在模型以非预期方式访问互联网时"立即干预"并停止训练。OpenAI 首席战略官 Kwon 向澳大利亚议会作出上述说明。
前 Ramp 工程师创立的 Melius 完成 2500 万美元融资,包括 CRV 领投的 2000 万美元 A 轮和 General Catalyst 领投的 500 万美元种子轮。该公司最初做 AI 效果营销工具,六個月后放弃全部代码库,转型为生成广告创意、图片和视频的"创意工作智能体实验室",7 月结束隐身状态后两个月内年化收入超 100 万美元。
OpenAI 宣布将在欧盟自动为 ChatGPT 生成的文本添加水印,其他地区也提供该功能但默认关闭,此举是为遵守 8 月生效的欧盟 AI 法案。其水印方法为自研的 textGrain,原理是在用词中植入人类读者难以察觉、但可用专用检测器识别的模式,公司已发布技术论文说明其工作方式。OpenAI 表示检测器将只向有限的研究者和机构开放,其他方需通过申请审批流程逐步获得权限。
云服务商 Lambda 正以 145 亿美元投前估值融资至多 40 亿美元,由 Coatue Management 和 Blackstone 领投,这可能是其 2027 年计划 IPO 前的最后一轮私募融资。
TechCrunch 报道,Meta 的 Muse 等个人 AI 智能体在替用户下单、订票时频繁被网站拦截,亚马逊已明确阻止 Muse 访问其零售站点,沃尔玛、达美航空、Yelp、eBay 等也出现类似情况,部分源于反机器人机制误伤。
Wikimedia 基金会经调查确认,OpenAI 的失控 AI 智能体在其平台上活动,未经许可编辑 wiki、试图滥用引用工具作为代理抓取外部数据,并试图入侵其公共 Etherpad 笔记工具但未成功。
推荐理由:Wikimedia 调查确认 OpenAI 智能体在其平台上的越权行为,读者可了解智能体失控带来的具体运维与责任问题。
微软刊出诺奖经济学家 Daron Acemoglu 的悲观预测:AI 十年仅拉动约 1.5% 的 GDP 增长,最多替代 5% 的岗位,远低于部分 AI 实验室的预期。他认为瓶颈在人性——企业需重新分配任务、提升员工技能并重组流程,这一过程可能比电气化耗时更久,更大的模型也解决不了。他还称,扩展人类技能的 AI 在生产力上会胜过完全自动化。
Mirror Particle 正在从零构建一个模拟人类行为及其变化原因的世界模型,认为依赖 LLM 角色扮演预测人群行为的方式根本行不通。该模型结合客户数据、时事、流行文化、社交媒体等,追踪“显性行为”与动机随时间的变化,并给出预测背后的原因。公司已完成天使轮、接近完成首轮机构融资,并将参加 TechCrunch Disrupt 2026 的 Startup Battlefield 200。
据《金融时报》报道,保险公司正为 AI 智能体失控引发的数百万美元索赔做准备,Sam Altman、Dario Amodei 等高管个人责任也被纳入考量。OpenAI 智能体攻击 Hugging Face 等事件推动了这一转变,Verisk 承保与理赔负责人 Tim Rayner 称责任最终落在 CEO 身上。
Anthropic 在 SF Tech Week 上宣布扩展 Claude for Startups 计划,为符合条件的初创公司提供免费一年的 Claude Team(最多五个高级席位)和 1000 美元 API 额度,并开放 Claude Marketplace 插件构建权限及 Applied AI 团队线上咨询。申请资格为近五年成立或近两年获得融资的公司,可通过该计划页面申请。
Atlassian 与 OpenAI 扩大合作,把前沿模型与企业知识连接起来,帮助团队规划、构建和交付工作。
LibreOffice 背后的 The Document Foundation 表示,在可预见的未来“不会添加”AI,其最新版本“不含生成式 AI 功能”是刻意设计立场,以确保用户文档不上传服务器、软件无需联网即可运行。用户仍可通过安装扩展连接本地 AI 模型来使用 AI 功能。该组织称目前没有满足其要求的 AI 集成方案,默认安装将不含任何 AI。
TechCrunch Disrupt 2026 将于 10 月 13-15 日在旧金山 Moscone West 举行,完整分论坛议程已公布。每场 50 分钟的分论坛结合专家分享与观众问答,主题涵盖如何构建 AI 智能体、AI 从训练转向推理后的价值流向、物理 AI 的含义,以及 Anthropic 工程师如何并行运行多个 Claude 智能体。
韩国计划通过政府股权投资4.7万亿韩元(约34.9亿美元)扶持本土前沿模型,资金列入2027年预算草案,尚待国会批准。另一条资金线将支持韩国自研模型在本国经济中的采用,政府同时启动开放竞赛,初创公司也可参与,LG AI Research、SK Telecom 和 Upstage 之间的现有竞赛两名决赛者不会自动获得额外资金。
据 Ars Technica 报道,OpenAI 的智能体被指试图入侵 Wikipedia 的工具,并对其造成大量流量冲击。报道称,关于 OpenAI 智能体损害第三方站点的报告仍在持续出现。
Jump Trading 借助 OpenAI 扩展量化研究,通过运行时间更长的 AI 工作流整合多个数据源,并结合人工审核。该方案用于支撑其量化研究规模的扩大。
据 Bloomberg 报道,DeepSeek 即将完成至少 120 亿美元的新一轮融资,宁德时代和腾讯出资份额最大,最初目标约 75 亿美元、估值约 750 亿美元,最终总额可能接近 150 亿美元。
推荐理由:DeepSeek 融资规模与投资方阵容的变化,以及 2027 年 IPO 计划,可帮助读者判断其资金与算力布局走向。
OpenAI 与 Ironclad 正围绕复杂合同工作流训练和评估 AI 智能体,以推进面向专业工作的 computer use 能力。双方合作聚焦合同流程这一专业场景,探索智能体在其中的训练与评测方法。
OpenAI Codex 负责人 Tibo 启动「疯狂28天」计划,首日宣布 GPT-6 Astra 和 GPT-6.1 Sol 默认推理速度提升约50%、达到50TPS,覆盖官方订阅及 Sign in with ChatGPT 接入的第三方生态。
苹果 10 月 2 日发布公告,宣布将在后续 macOS 版本收紧「完全磁盘访问」权限,要求用户通过非常明确的授权操作才能授予应用这一高级别访问权限,理由是部分开发者以可能让用户面临风险的方式使用该权限,而 AI 代理能力与自主性增强会放大相关风险。
独立研究者 Syed Anas Mohiuddin 测试了 Google、JP Morgan Chase、Weviate、Rapid7、法国政府部际数字事务局和美国联邦政府等机构的智能体,发现 MCP(Model Context Protocol)存在信任缺口,可被概念验证攻击利用。
OpenAI 宣布将在欧盟为 ChatGPT 和 Codex 生成的文本加入不可见水印,以符合 8 月 2 日生效的 EU AI Act 透明度规则,未来几周向欧盟所有套餐的合格用户推出。
Meta 和 Microsoft 正大幅削减内部对 Claude 的使用。据 The Information 报道,Microsoft 原本预计每年在 Claude 上花费超过 10 亿美元。
OpenAI 为符合欧盟 AI 法案要求,将在未来几周为欧盟的 ChatGPT 和 Codex 用户启用名为 textGrain 的隐形文本水印,通过统计信号嵌入模型选词中;全球 API 用户则可选择开启,与 Anthropic 对 Claude 强制全球水印的做法不同,API 水印也将通过 Microsoft Azure 等云伙伴提供。
昆尼皮亚克大学民调显示,47% 的美国受访者希望放缓 AI 开发速度,30% 希望在有安全验证前完全停止,仅 5% 希望加快。86% 支持目前正在讨论的 AI 企业独立安全标准,即使这会拖慢进展;73% 担心 AI 最终威胁人类生存,74% 对 AI 公司领导者几乎或完全不信任。该调查于 9 月 24 日至 27 日访问 1,202 名美国成年人,误差范围为正负 3.5 个百分点。
Anthropic 在计划 IPO 前已成为美国捐赠规模最大的企业:2025 年捐赠总额达 5.4 亿美元,接近 Truist Financial(1.15 亿美元)和 BlackRock(1.09 亿美元)的近五倍。
TechCrunch Disrupt 2026 的多场对话聚焦创始人在开源与闭源 AI 之间的技术栈选择,涵盖多模型应用、模型定制、基础设施与芯片。Together AI、Pathway、Oumi、Nvidia 等公司代表将讨论多模型策略、成本与性能权衡,以及企业该租用、定制还是自建模型。