走进学院
学院资讯
科研动态
学生培养

让AI Agent从真实世界中学会预测未来:北京中关村学院FutureWorld × Milkyway

日期: 2026-05-19

近日,北京中关村学院信息智能团队联合中国科学技术大学、南开大学、中国科学院、清华大学等多家高校与科研机构,围绕“让AI Agent从真实世界反馈中学会预测未来”推出两篇工作:FutureWorld 与Milkyway。前者把Live Future Prediction(实时未来预测)任务做成可持续运行的强化学习环境与daily benchmark(每日评测基准);后者进一步利用待预测事件结果揭晓前的时间演化信号,让 Agent 在等待最终结果的过程中也能改进自己的预测。

FutureWorld 论文网址:https://arxiv.org/abs/2604.26733

Milkyway 论文网址:https://arxiv.org/abs/2604.15719

Live Future Prediction(实时未来预测)

所谓Live Future Prediction(实时未来预测),是指在真实世界事件尚未发生、答案尚不存在时,让智能体基于公开信息作出预测;等事件随后发生并有公开结果后,再用真实结果检验预测是否准确。这里的 “Live” 指的是一套真正随现实世界动态变化而推进的预测流程:智能体不是在固定题库中回答已有答案的问题,而是在事件尚未发生、答案尚不存在时,实时联网搜索公开信息并作出判断;等真实结果公布后,再用这些结果检验预测表现。

举例来说,可以在2026年5月上旬提出一个问题:“中央广播电视总台是否会在2026年世界杯开幕前,与国际足联就中国大陆地区转播权达成协议并公开宣布?”当问题被提出时,结果还没有发生,最终答案也尚不存在。智能体需要实时联网搜索国际足联公告、央视公开信息、体育媒体报道以及相关市场分析,在转播权价格、谈判进展、赛事临近程度等公开信息基础上作出判断。

从评测预测能力,到训练预测型智能体

已有研究已经推动了未来预测评测基准的发展,也开始探索利用历史已知结果的问题训练预测模型。但在论文看来,现有方法还没有真正形成一个完整的训练闭环:问题要持续来自真实世界,反馈要直接来自最终结果,智能体如何搜索信息、分析证据、作出判断,都应成为训练过程的一部分。FutureWorld 要做的,正是把这一整套过程变成一个可以持续运行的训练环境。

FutureWorld:让智能体从真实结果中学会预测

论文《FutureWorld: A Live Reinforcement Learning Environment for Predictive Agents with Real-World Outcome Rewards》把“预测未来”变成了一个可以持续训练智能体的真实环境。系统会持续从公开网络来源中获取真实世界里的待预测事件,把它们整理成预测问题,并要求智能体判断相关事件发生的概率。智能体在作答前必须先进行网页搜索,基于公开信息完成分析,再给出自己的概率预测。整个过程中,系统会记录它搜索了什么、看到了什么、如何推理,以及最终给出了怎样的判断。等到事件结果公布后,FutureWorld会根据真实结果计算奖励,并把完整预测轨迹用于强化学习训练。

1.jpg

在工程实现上,研究团队基于Verl-Tool修改并扩展出verl-tool-future,使预测时rollout采集、后续结果获取、奖励回填与策略更新能够解耦运行。论文中的日常运行流程是:每天20:00,系统会生成一批预计次日可以验证结果的预测问题;到次日20:30,再尝试检索真实结果。对于成功获得结果的问题,系统会回填标签和奖励,并将其用于模型参数更新。

当然,真实世界并不会完全按照系统设定的时间表给出答案。论文记录显示,在连续五天的观察中,系统晚间检索结果时,平均仍有35.65%的问题尚未获得可验证真实结果。FutureWorld 只把已经确认真实结果的问题用于训练;那些到预定时间仍无法验证结果的问题,则不参与模型更新。

图1.png图1:FutureWorld 训练闭环示意图。智能体先完成搜索推理与预测,待真实结果可验证后,系统回填奖励并用于参数更新。

实验一:连续多天训练带来稳定预测性能提升

论文在三个开源基座模型上验证了FutureWorld的训练效果,包括Qwen3-4B-Instruct-2507、Qwen2.5-3B-Instruct 和 DeepSeek-R1-0528-Qwen3-8B。在具体实验中,FutureWorld连续运行8天,研究团队保存了训练前以及每天训练后的模型版本。为了保证公平,保存的所有模型版本都在同一天、同一组500个预测问题上接受评估。结果显示,随着训练天数推进,模型准确率整体提升;用于衡量概率预测质量的Brier score下降;基于10个等宽概率区间计算的ECE校准误差也逐步降低。这说明,延迟到来的真实世界结果可以成为有效的强化学习训练信号,帮助预测型智能体持续改进。

图2.png图2:在连续多天训练下,三个开源智能体在准确率、Brier score 和 ECE 上呈现整体改善趋势。

实验二:训练收益并不局限于单一领域

为确认提升不是来自单一领域,论文进一步比较了初始模型与训练8天后 checkpoint在不同领域上的表现。图中覆盖金融市场、农业、期权波动率、汇率、工业、天气、物流、娱乐、政治等领域。

实验结果显示,经过8天FutureWorld训练后,模型在多数领域都优于训练前。这表明,FutureWorld提升的不是某一类题目的应试技巧,而是智能体在面对多领域真实世界问题时的通用信息搜集、证据组织和推理判断能力。

图3.png图3:训练前后在不同领域上的预测表现对比,day8 checkpoint 在多数领域取得更好结果。

实验三:超越二分类题型的泛化能力

在训练阶段,论文主要使用“事件是否会发生”这类预测问题:系统把尚未发生的真实世界事件整理成二元问题,让智能体判断事件发生的概率,而不是简单回答“会发生”或“不会发生”。为了检验训练得到的能力是否能够延伸到更多样、更为通用的预测场景,研究团队进一步设计了FutureWorld daily benchmark(FutureWorld 每日评测基准)。该基准题目每天更新,单日最多包含50道题,覆盖二元选择题、简单多选题、困难多选题和数值预测四类题型。

连续五天的评测结果显示,三个智能体在经过 FutureWorld 训练后,整体表现均优于训练前。这说明,FutureWorld 训练带来的提升并不是对单一题型的过拟合,而是反映了模型通用预测能力的增强。

图4.png图4:训练前后在 FutureWorld daily benchmark 上的总体得分对比,虚线为 GPT-5.4 web-search 基线。

Milkyway:在答案揭晓前学习预测未来

如果说FutureWorld让智能体在真实结果公布后用outcome reward更新参数,那么Milkyway进一步追问:在答案还没有揭晓之前,预测系统是否也能从时间流动中学到东西?论文《Harnessing Pre-Resolution Signals for Future Prediction Agents》提出,世界会在结果揭晓之前,通过证据变化、判断修正和不确定性收敛,提前暴露出可学习的过程信号。

该团队提出的Milkyway系统在FutureX 2026年3月Week 3评测切片上取得第一名;在公开的Live Bench FutureWorld上也取得最好成绩。更重要的是,它展示了一条不同于“等待最终答案再学习”的路线:让 Agent 在同一问题的多次预测之间,持续修正观察世界和处理证据的方式

图5.png图5:Milkyway 在 FutureX 2026年3月 Week 3 overall leaderboard 中位列第一。

为什么“预测未来”不是更难一点的问答

Future Prediction的难点,不只是问题更复杂,也不只是搜索范围更大,而在于它的任务结构与标准问答不同。普通问答通常默认答案已经存在,系统的主要工作是搜索、阅读和交叉验证;而预测未来时,答案尚未发生,公开证据也仍在变化。

• 答案缺席,反馈极慢:预测发生时不存在可直接检索的标准答案,最终结果往往要滞后很久才出现。

• 证据持续变化:今天看不到的信号,明天可能出现;今天仍然模糊的迹象,后天也许会变成关键证据。

• 最终反馈粗糙:outcome主要告诉系统最后对不对,却很难说明当初漏掉了哪个变量、该监控哪个来源、何时应该保留不确定性。

因此,Future Prediction的挑战不是“更难的搜索题”,而是process-level credit assignment:当最终反馈又晚又粗时,系统如何尽可能可靠地判断,并知道预测过程该如何改进。

图6.png图6:有答案的一般任务与未来预测任务的结构差异。

核心洞察:时间本身可以成为监督信号

Milkyway的关键洞察来自一个简单但容易被低估的设置:同一个尚未解决的问题,会在结果揭晓前被多个 checkpoint 反复预测;每一次预测都只能使用当时已经公开的信息。

随着时间推进,后一次预测不一定天然更准,但它可能暴露出新证据、新检索路径和新的不确定性管理问题。把这些预测与checkpoint note按时间排列,就得到了一条 pre-resolution trajectory。Milkyway将从这类时间对比中提炼出的诊断信号定义为 pre-resolution signal。它不是最终答案,也不是事后复盘,而是在问题仍未解决时就能出现的过程级学习信号。

图7.png图7:pre-resolution signal 来自同一未解决问题在多个checkpoint 中暴露出的证据与判断变化。

Milkyway:不改模型参数,而是进化“预测框架”

基于这个洞察,论文提出了一个能自我进化的架构:Milkyway。在本文设置下,Milkyway不通过更新底层模型参数来适应同一问题的后续预测,而是让固定的 BaseAgent 搭配一个受约束、可编辑、可复用的外部状态:Harness state。这个Harness可以理解为一份动态更新的预测操作手册,但它不是自由写入的记忆库,也不是把答案或原始证据塞进去。

2.png

Harness主要包含三个维度:Factors关注该看什么,帮助系统持续跟踪重要变量;Evidence关注去哪里看、怎么看,帮助系统判断证据是否真正匹配题目的 resolution criterion;Uncertainty关注何时下注,提醒系统在关键信息尚未出现时保持谨慎,在信号足够清晰时果断修正判断。

图8.png图8:Future Prediction Harness 的三个核心维度:Factors、Evidence 与 Uncertainty。

Milkyway 如何更新

Milkyway的核心工作流可以概括为:当前Harness指导一次预测,系统生成 checkpoint note;随后从同一问题的时间差异中提取内部反馈,写入 bounded patch;下一次checkpoint再复用更新后的Harness。

具体来说,当系统在某个checkpoint上对尚未解决的问题做预测时,BaseAgent会在当前Harness的指导下完成证据搜索、分析和判断。任务结束后,系统记录的不仅是一个预测值,还会生成一份精炼的checkpoint note,说明这一轮看到了什么关键信息、判断逻辑如何变化、当前还存在哪些风险。

接着,系统会把这份新笔记与之前同一问题的笔记进行对比:后来看到了什么是前面完全没意识到的;判断为什么发生修正;前面有哪些地方因为证据不足而过早下结论。由此得到的可复用经验会被写入Harness,供下一次预测调用。

图9.png图9:Milkyway 的预测、信号提取、Harness 更新与 post-resolution check 工作流。

实验结果:越接近结果揭晓,Internal Feedback 越有价值

在论文报告的评测协议下,Milkyway在 FUTUREX和FUTUREWORLD的 overall score 上领先对比方法。结果显示,typed harness与bounded edits 并不是简单增加一段记忆,而是把同一问题在不同checkpoint中暴露出的过程信号转化为后续预测可复用的指导。

图10.png图10:Milkyway 在 FUTUREX 与 FUTUREWORLD 评测中的总体表现。

机制实验

为了验证提升来自pre-resolution writeback,而不是重复调用或普通记忆,论文构造了三组matched conditions:NH(No Harness)不保留 question-local persistence,只测 repeated forecasting;GH(Generic Harness)保留同等 byte/write-call budget 的 free-form memory blob;FH(Full Harness)使用 Milkyway 的 typed F/E/U harness 和 bounded edits。

图11.png图11:机制实验中的 pre-resolution score trajectories。FH 的优势在 writeback 可被后续 checkpoint 使用后逐渐拉开。

图12.png图12:T-4d 到 T-1d 的 endpoint improvement 对比,FH 相比 NH/GH 带来更高增益。

这些结果对应T-4d 到 T-1d的endpoint improvement。更关键的是,FH的优势不是一开始就出现,而是在writeback能够被后续checkpoint使用后逐渐拉开。这与论文的机制假设一致:pre-resolution signal 被写入typed harness,随后改变后续预测过程。论文还做了compute-matched check 与 same-day repeated-rounds control,说明提升不能简单归因于更多工具调用、更多prompt token,或同一天重复运行。

两个案例:Harness 改变的是证据路线

案例1:河北省级迁徙比例

FutureWorld中一道题要求预测2026-05-05 “百度迁徙”中河北省级迁入目的地占比,最终gold value为4.48。初始运行犯的错误不是推理不努力,而是读错了指标表面:它被旧 JSONP endpoint、第三方 ranking page 和历史迁徙评论带到了一个约27的错误指标表面。

Milkyway的typed writeback写入了两条procedure:一条 U-axis 规则提醒在没有 direct same-metric anchor 时限制置信度;一条 E-axis 规则要求后续优先进入“百度迁徙”实时前端,并明确切到省级迁入目的地视图,把旧 JSONP 和第三方排名只当背景。后续 FH 预测从35.20调整到5.46、5.23、5.24,接近 gold 4.48;同一checkpoint下NH和GH仍停留在27.18/27.30左右。这里 Harness 保存的不是答案,而是“该读哪个证据表面”的规则。

案例2:新乡 AQI

另一个案例是新乡2026-05-05的 AQI,gold value 为91。早期运行反复查历史 AQI 表和城市排名页,但这些页面不能可靠给出目标日数值。在后续 writeback 中,F-axis 要求跟踪 local current AQI、24-48h trajectory 和同日扩散/臭氧天气;E-axis 要求当目标日在约24小时内时,优先检查 city-level next-day AQI forecast page,再用 live trackers 做 plausibility check。

下一次FH路由到QWeather的新乡预测页,看到引用中国环境监测总站的forward AQI 88,最终预测88,距离gold 91只有3点;同checkpoint下NH为78,GH 为64。这个案例说明Factors与Evidence两个轴可以共同改变后续搜索路线。

 

作者团队及合作单位

FutureWorld与 Milkyway系列工作的作者团队为北京中关村学院AI Core 学部郑书新副教授带领的信息智能团队,第一作者为北京中关村学院在读博士生魏楚扬(Milkyway)、韩之信、张延智(FutureWorld 共同一作),通讯作者包括北京中关村学院段易通研究员,施宇研究员,何纪言研究员等,合作单位包括中国科学技术大学、南开大学、中国科学院、清华大学交叉信息研究院等。团队专注于大模型与智能体前沿研究,涵盖架构优化、长上下文推理、协同演化及归因分析,同时立足金融、社会模拟等垂直场景。北京中关村学院旨在通过技术创新,赋予大模型深层逻辑与行业理解力,加速迈向通用人工智能。

CVPR 2026 | 北京中关村学院GaussianPile实现切片式容积影像快速重建,让3DGS看见内部结构
从“看清结构”到“设计功能”:FlexRibbon蛋白质基座模型发布