智能免费之后怎么办？面向智能体的数据系统
UC Berkeley 团队提出，GPT-4 级能力从 2023 年初的约 $30/百万 token 降至如今不到 $1，部分厂商已低于 $0.10，推理价格年降幅在 9x 到 900x 之间、中位数约 50x。近乎免费的推理成本带来三类数据系统挑战：为智能体服务、由智能体运行、由智能体合成，其中智能体推测式查询会产生 80-90% 的重复子查询。
UC Berkeley 团队提出，GPT-4 级能力从 2023 年初的约 $30/百万 token 降至如今不到 $1，部分厂商已低于 $0.10，推理价格年降幅在 9x 到 900x 之间、中位数约 50x。近乎免费的推理成本带来三类数据系统挑战：为智能体服务、由智能体运行、由智能体合成，其中智能体推测式查询会产生 80-90% 的重复子查询。