Learning DiscoSCM Reader argument · V6

The paper’s real question

How to learn
DiscoSCM?

从因果本体论,到第一个可学习的 token-level outcome mechanism

这篇论文不是在推出某一个 prediction model,也不是在孤立地发明一个 counterfactual algorithm。它要让读者走完一条必然推导链:接受 DiscoSCM 的 ontology,先承认 Unit Selection Variable,再由不可观测的 unit representation 推出 abduction, 最后才得到 learner、算法与实验。

不是“我有一个模型” 而是“理论迫使出这个学习问题”

Agent 必读 · notation preflight

不要把样本下标写到 Unit Selection Variable 上

DiscoSCM 只有一个 model-level \(U\)。样本 \(i\) 的真实选择是 \(U=u_i\),由 \(x_i\) 形成的完整 belief 是 \(Q_i(B)\approx P(U\in B\mid X=x_i)\)。这三个对象不可混写; \(U\) 只承担 unit/token selection,不承担 treatment assignment 或 sample inclusion。

Read before editing 为什么不能写 \(U_i\) →

Reviewable artifacts · 2026-07-16

论证已经进入可审阅的 working paper

英文主文与中文问题导读保持同一条 ontology → learning problem → learner → evidence 主线。1,400-row confirmatory 已完整结束,正式结果为 not_confirmed;实验图解解释了为什么。

00

The entire paper in one derivation

算法应该从 ontology 里长出来

这不是一组并列模块,而是一条前一步迫使后一步出现的逻辑链。论文的贡献首先是把这条链说清楚。

  1. 01 接受 DiscoSCM

    目标是学习 causal generative theory,不是只拟合 \(P(Y\mid X)\)。

  2. 02 缩到一个 mechanism

    先研究最小但仍包含 unit heterogeneity 的 outcome slice。

  3. 03 \(U\) 不可删除

    否则 same-token linkage 与 unit response 无从表达。

  4. 04 representation 是 latent

    离散 token 通过 embedding 才能进入共享 generator。

  5. 05 \((X,Y)\) 迫使 abduction

    learner 看不到 actual representation,只能从 evidence 推断。

  6. 06 必须选择 uncertainty geometry

    Point → distribution → Gaussian pressure test → Cauchy desiderata。

  7. 07 算法与证据成为下游结果

    closed-form learner、learnability boundary 与 robustness hypotheses。

01

Contract before architecture

为什么先学习一个 outcome mechanism?

第一篇不是把完整问题偷换成 regression,而是保留 DiscoSCM 最小的非平凡困难: outcome 属于哪个 unit、representation 如何进入计算、以及同一个 unit 如何跨 query 保持。

World-side target

\[Y(x)=f_0(x,E;U)\]

\(f_0\) 是 world mechanism;\(f_\theta\) 是 learner family。one-shot data 评价的是 induced observable law,不是自动恢复唯一的 \(f_0\) decomposition。

Five irreducible questions

  1. 这是哪个 unit 的 outcome?
  2. representation 为什么不可见?
  3. 一条 row 怎样成为 unit evidence?
  4. alternative query 怎样保持 same token?
  5. factual data 究竟监督到哪里?
02

The deletion test

为什么 Unit Selection Variable 不是多余形式化?

不要先为 \(U\) 辩护。先把它删掉,看看理论失去什么。若只剩 \(Y(x)=f_0(x,E)\),所有稳定的 unit differences 都只能被塞进 event noise。

with selector

\[Y(x)=f_0(x,E;U)\]

without selector

\[Y(x)=f_0(x,E)\]

Loss 01

unit heterogeneity 消失

between-unit differences 与 within-unit event randomness 被迫混在 \(E\) 中。

Loss 02

unit response 不再是对象

无法定义同一个 \(u\) 配置出的 \(Y_u(x)=f_0(x,E;u)\)。

Loss 03

same-token linkage 无从表达

没有稳定 selector 说明 \(x\) 与 \(x'\) 两个 queries 属于同一个 unit。

Loss 04

换 input 与换 unit 无法区分

alternative query 不再拥有“固定谁、改变谁”的 formal contract。

03

From identity to computation

\(U\) 到底是什么?token,以及它的 representation

token 类比不是装饰。它把一个最容易混淆的问题拆成 semantic identity 与 computational code 两层。

Semantic layer

01

离散 token:是哪一个 unit?

\(U\) 的 realization 选择当前 focal token。row index 只做 bookkeeping,不进入 generator,也不创造一套 \(f_i\) ontology。\(U\) 会对每条 focal record 实例化; 它不是整张数据表共享的一个 global token。

injective code map \(\iota\)

Computational layer

02

连续 representation:怎样进入计算?

若 actual token 是 \(t^\star\),则 \(u^\star=\iota(t^\star)\),共享 mechanism 计算 \(y=f_0(x,e;u^\star)\)。

04

Observed data forces an interface

只有 \((X,Y)\),为什么 unit abduction 必须出现?

world 已经拥有 actual token;learner 却只看见一条 factual record。接受 latent \(U\) 之后,evidence → candidate-unit interface 就不再是可选装饰。

World knows the token

世界直接生成

\[U=u^\star,\qquad y=f_0(x,e;u^\star)\]

world 不做 abduction。它已经知道本次 outcome 属于哪个 actual token。

Learner only observes a row

learner 必须先推断

\[x^F\xrightarrow{\mathcal A_\phi}\text{candidate-unit result}\]

learner 看不到 \(u^\star\),因此不能从 predictors 直接跳到 unit outcome computation。

evidence\(x^F\)
forced interface\(\mathcal A_\phi(x^F)\)
query\(x^Q\)
generator\(f_\theta(x^Q,E;u)\)
law\(p_{\phi,\theta}(y\mid x^F,x^Q)\)

factual prediction 中 \(x^F=x^Q=x\),但前者回答“由什么 evidence 认识 token”,后者回答“向 mechanism 提什么 query”。 predictors-as-evidence 不自动推出 world side 的 \(X\to U\) 或 \(U\to X\);信息来源仍需 observation process 说明。

05

A hierarchy, not a model zoo

学习问题经过三个递进层次

Point、distribution 与 Cauchy 不是三个平行按钮。它们是 learner 被 one-shot uncertainty 一步步逼向更弱认识承诺的过程。

  1. Level1

    Strongest commitment

    几乎能确定唯一 unit

    \[\widehat u=a_\phi(x^F)\]

    剩余 unit uncertainty 被认为可以忽略。
  2. Level2

    Admit epistemic uncertainty

    只能保留 candidate distribution

    \[q_\phi(u\mid x^F)\]

    对同一个 actual token 的 learner-side uncertainty,不是 identity redraw。
  3. Level3

    The decisive question

    这个 distribution 应拥有什么 geometry?

    有限 evidence 应该以多快的速度排除遥远 candidate mechanisms?

    Gaussian / Cauchy 的分歧在这里才出现。
06

Pressure test, then derive

不是“讨厌 Gaussian”,而是审问它做了哪些承诺

Gaussian full support 并不等于 epistemically open:它仍以 exponential rate 把远方 candidates 变得 practically negligible,并默认 finite covariance 是合理 summary。

Gaussian commitment

\(q_\phi(u\mid x^F)=\mathcal N(\mu_\phi,\Sigma_\phi)\)

  • 围绕中心局部集中
  • Euclidean distance 有直接意义
  • 远方 candidates exponential suppression
  • finite covariance 是合理 summary
  • \(L_2\)-style scale aggregation

one factual observation 足以支持这些承诺吗?

Desired uncertainty geometry

我们真正要求什么?

  1. Global openness不过快关闭远方 candidate mechanisms
  2. No forced moments不强迫 finite mean / variance
  3. Location–scale仍有清楚、可训练的参数语义
  4. Affine stability通过 bilinear generator 可解析传播
  5. Proper likelihood支持 exact end-to-end learning
  6. Controlled influence极端 residual 不线性统治 optimization
Stable family · \(\alpha=2\) Gaussian

finite variance · exponential tails · \(L_2\) scale

Stable family · \(\alpha=1\) Cauchy

no finite moments · polynomial tails · \(L_1\) scale

07

The learner is now a consequence

此时,算法才自然长出来

每一个组件都有上游理由:\(U\) 来自 causal expressivity,abduction 来自 latent \(U\), Cauchy 来自 uncertainty desiderata,bilinear generator 保留 query-dependent unit modulation。

factual evidence \(x^F\)
Cauchy abduction \(m_\phi(x^F),\gamma_\phi(x^F)\)
query modulation \(g(x^Q)=a+B^\top x^Q\)
exact outcome law \(\operatorname{Cauchy}(m_Y,s_Y)\)

Cauchy–bilinear slice

一个无需 latent Monte Carlo 的 exact learner

条件:\(E\sim\operatorname{Cauchy}(0,1)\), \(E\perp\!\!\!\perp\widetilde U\mid x^F\),candidate coordinates 条件独立, \(\gamma_{\phi,j}>0,\sigma>0\)。

\[ f_\theta(x^Q,E;u) =\alpha+\beta^\top x^Q+\{a+B^\top x^Q\}^\top u+\sigma E \]

location mY = α + βᵀxQ + g(xQ)ᵀmφ(xF) scale sY = Σj |gj(xQ)| γφ,j(xF) + σ

What the learner computes

\[ p_{\phi,\theta}(y\mid x^F,x^Q) = \int p_\theta(y\mid x^Q,u)\,q_\phi(u\mid x^F)\,du. \]

\(q_\phi\) 是对同一 actual token 的 epistemic uncertainty;\(E\) 是 event randomness。 candidate sampling 不会重新生成 world-side identity。

08

Learnability without pretending identification

one-shot 数据真正监督的是 factual diagonal

训练只直接观察 \((x^F,x^Q)=(x,x)\)。proper score 可以恢复 training support 上的 composed factual law,却不能顺手恢复 actual representation 或所有 alternative queries。

Primary theorem target

\(P_{\mathrm{train}}\)-a.s. factual-law recovery

\[ \mathcal Q(r)-\mathcal Q(r_0) = \mathbb E\!\left[ \operatorname{KL}\{r_0(\cdot\mid X)\Vert r(\cdot\mid X)\} \right]\ge 0. \]

这是 composed predictive law 的 Fisher consistency,不是 latent truth recovery。

What it does not identify

不能从 theorem 中偷渡什么?

  • 唯一 actual \(u^\star\) coordinates
  • 唯一 \((\mathcal A_\phi,f_\theta)\) decomposition
  • unit / event scale 的唯一分离
  • 全部 off-diagonal \(p(y\mid x,x')\)
  • 完整 Layer 3 joint law
09

Same token, changed query

先有 same-token interface,后谈 Layer 3

factual evidence 只 abduct 一次。alternative query 复用这份 result,只改变 mechanism input;重新从 \(x'\) 编码会造成 identity drift。

1 · factual evidence \(x^F=x\) observe once
2 · abduct once \(q_\phi(u\mid x)\) fixed across queries
factual query \(x^Q=x\) \(f_\theta(x,E;u)\)
alternative query \(x^Q=x'\) \(f_\theta(x',E;u)\)

这还不是 identification theorem。 要称为 causal counterfactual,还需 token sufficiency、intervention semantics、support、assignment/confounding、mechanism stability、distribution-consistency 与 \(E\) 的 cross-world coupling。

10

Robustness is an exposed consequence

robustness 是理论的外显,不是论文的起点

正确方向是 ontology → abduction → uncertainty geometry → falsifiable robustness consequences。不同 robustness claim 的证据强度必须分开。

Analytically grounded

gross contamination 下的 bounded influence

\[ \ell(r;s)=\log s+\log\!\left(1+\frac{r^2}{s^2}\right), \qquad \frac{\partial\ell}{\partial m} =-\frac{2r}{s^2+r^2}. \]

当 \(|r|\to\infty\),极端 residual 的 location influence 趋近于零,而非线性增长。

Structure-dependent hypothesis

mechanism / query-shift robustness

unit factorization 只有在 heterogeneity 存在、evidence 有信息、shared mechanism 近似正确且 query 在 support 内时,才可能优于 surface predictor。

这是实验要证伪的结构假设,不是自动成立的 universal theorem。
11

Evidence that can distinguish the story

真正的实验必须检验这条推导链

regression leaderboard 只能提供 secondary factual evidence。primary benchmark 必须在 evaluator 侧私藏同一 token 的 alternative-query response grid。

Reader bridge · 约 8 分钟 看不懂下面的实验矩阵?先沿着一个 synthetic unit 走完公开数据、Y-shuffle、私藏 21 点曲线与最终评分。 Next protocol · proposal_only K=1 不变:每个 unit 只公开 \((W,A^F,Y^F)\),再用密封的 same-unit counterfactuals 评测高维 nonlinear mechanism learning。
Worlds
  • matched token mechanism
  • no heterogeneity
  • weak token evidence
  • narrow factual query support
Comparators
  • point / Gaussian / Cauchy
  • direct distributional predictors
  • varying-coefficient models
  • four-expert Cauchy mixture
Measurements
  • predictive log score
  • quantile / pinball loss
  • CDF calibration
  • coverage / interval width
  • response-curve error
  • contamination sensitivity
  • robust factual MAE / NLL
问题
Deep Structural Causal Models
Learning DiscoSCM · 当前 slice
主要 abduct 什么?
已声明 graph 中的 exogenous noise
对 actual token representation 的 epistemic uncertainty
什么保持稳定?
依具体 SCM counterfactual contract
Unit Selection Variable \(U\)
event noise
通常是 SCM exogenous variables 的一部分
稳定 \(U\) 与 event-level \(E\) 显式分离

Primary anchors: Distribution-consistency Structural Causal Models · Deep Structural Causal Models for Tractable Counterfactual Inference

正式 confirmatory 已完成 1,400/1,400 cells:primary gate 三个条件全部未通过,结果为 not_confirmed;no-heterogeneity guardrail 通过。它不支持 Unit factorization 的鲁棒性优势, 也不能单独证明 individual counterfactual identification 或完整 DiscoSCM。

12

One object, four independent papers

四种观察视角继续独立活跃

它们可以互相启发,但各自维护独立问题、claim、theorem、实验与投稿身份。

Flagship · end-to-end ML

Learning DiscoSCM

总问题是 How to learn DiscoSCM?;第一篇学习一个 token-modulated outcome mechanism。

General method

Unit Mechanism Learning

抽象 shared generator、factorization、predictive-law consistency 与 tractable families。

Causal ontology

Token Causation

讨论 row-as-token、same-token linkage 与 response prediction / singular attribution 边界。

HTE localization

DiscoCATE

把 unit-abducted belief geometry 拉回 observed donor rows,并与 orthogonal causal score 组合。

Owner review checkpoint · V3

请先判断这七件事

请用这些问题审阅 working manuscript;后续 theorem 与 experiment 必须回到这条逻辑脊柱。

  1. 01

    论文是否应明确以 “How to learn DiscoSCM?” 开场?

  2. 02

    单个 outcome mechanism 是否是第一个不可再缩的 learning slice?

  3. 03

    删除 \(U\) 后失去的四种表达能力,是否足以证明它是 primitive?

  4. 04

    离散 token 与真正进入 mechanism 的 representation 是否已经分开?

  5. 05

    abduction 是否看起来是由 latent \(U\)+observed \((X,Y)\) 强迫出现?

  6. 06

    Gaussian → Cauchy 是否由 desiderata 推出,同时保持非唯一性边界?

  7. 07

    robustness 是否位于理论推论的下游,而不是反向成为论文起点?