智能体AI从模型风险到系统性风险

01 摘要

该研究主张，当大量决策者依赖同一基础设施时，困境不再近似个体化因而可分散，关注点从单一部署的模型风险转向群体层面的系统性风险。作者在六个数学设定中形式化该论点：共享基础模型构成不可分散的共同敞口，其预期短缺下限不随群体规模扩大而降低，并存在传染渗流阈值。作者的核心观点是：智能体AI风险的系统性成分无法被分散、检测清除或逆转，只能靠事前结构性预防。

02 关键点

1. 共享基础模型是不可分散的共同敞口，其预期短缺下限不随群体规模增大而消失，渗流阈值决定传染条件。
2. 在“审查无法拦截不可逆动作”的杠杆分配公理下，任何非预防性控制都无法满足一致的尾部约束。
3. 把运行时护栏建模为部分可观测随机控制，得到可观测性三分法、检测下限，并在承诺外生性下给出运行时不可能性推论。