状态空间基础模型可解码限价订单簿订单流失衡

01 摘要

研究训练了一个8.2M参数的Mamba-3状态空间模型，自回归生成八只大盘美股的消息流。作者称模型内部状态可线性解码订单流失衡（R²≈0.59），且该表征可迁移至未见股票，并在成交量、波动率等指标上成立。作者进一步通过沿特征轴推动状态，观察到下一消息信念按特征含义单调变化，将其解释为世界模型的出现。

02 关键点

1. 订单流失衡在模型内部状态中线性可解码，R²约0.59，高于对照与基线。
2. 该表征可迁移至训练中未见的股票，并在成交量和波动率指标上同样成立。
3. 沿特征轴干预内部状态会单调改变模型对下一消息的信念，作者称这与世界模型一致。