开源模型有实际好处,但好处是否大于风险?
Anthropic 发布报告称,中国公司 Z.ai 于 8 月发布的模型 GLM-5.3 可被任何人自由下载和修改,构成重大网络攻击风险。开源模型可下载、可重训、可微调,成本通常低于闭源模型,但安全与民主化之间仍存在取舍。
Anthropic 发布报告称,中国公司 Z.ai 于 8 月发布的模型 GLM-5.3 可被任何人自由下载和修改,构成重大网络攻击风险。开源模型可下载、可重训、可微调,成本通常低于闭源模型,但安全与民主化之间仍存在取舍。
针对今夏一系列 AI 炒作,文章指出 Anthropic 的 Claude Mythos 找漏洞、OpenAI 的 Astra 宣称解决数学难题等事件,在专家核查后均被大幅修正,数学界还指控 OpenAI 存在研究不端与抄袭。作者认为"超级智能""失控模型"的说法把责任从企业转移到产品身上,呼吁政策制定者听取独立专家意见、不要依据新闻稿做决策。
OpenAI、Anthropic 和 Google 提出以安全为由放缓前沿 AI 开发,Anthropic CEO Dario Amodei 呼吁行业与政府协调放缓并寻求反垄断豁免,Sam Altman 和 Elon Musk 表示赞同。