Method genealogy · UML-METHOD-GENEALOGY-001
Unit-specific mechanism 是 primary object
SCM 的 shared assignment 也会诱导 unit-specific slice。UML 的贡献不在新表达能力,而在 primary object、unit/evidence/event-noise 分离,以及从候选 unit representations 综合出 conditional response。
先给定位
不是第一次发明 mechanism,而是把 unit-specific instance 变成主对象
它把三条历史上长期存在、却常被分散处理的思想放在了同一张图里:
unit 有稳定异质性
来自 random effects、IRT、random-coefficient 等传统:不同人或对象,不必共享同一个 response law。
可以从 evidence 推断 latent state
与 empirical Bayes、VAE、Neural Processes 相邻:有限观测可以转成 latent-state uncertainty;其中 Neural Processes 还可以直接表达 function uncertainty。
shared assignment 可诱导 unit slice
与 SCM、nonseparable structural functions 相邻:共享的 \(f\) 在固定 latent / exogenous realization 后本来就能产生 unit-specific response map。
UML 的特殊处,不在于首次发明 latent variable、个体异质性或 outcome-generating mechanism;而在于把共享、由 unit 调节的 family 的 unit-specific instances 设为 primary modeling objects,并明确分开 world-side \(U=u^\star\)、predictors evidence \(X=x\)、mechanism query \(x\)、candidate representation \(u\) 与 event noise \(E\)。
token 与 embedding 的一一关系是 standing identity-encoding assumption;one-shot 数据不会因此识别唯一坐标系或真实 \(u^\star\)。Evidence abduction 表达 learner 对同一个 actual token 的候选 uncertainty,而不是让真实 identity 随机重抽:
同一个 \(x\) 先作为 factual evidence,再作为 factual query。Point、Gaussian、Cauchy 是三种 abduction commitment;prediction 是 abduction result 与 generator 的 composition。
The exact SCM relation
“SCM 所有样本共享 \(f\)”与“每个 unit 有自己的 response map”可以同时成立
标准 SCM 在 population 层面声明共享的 structural assignment;固定 unit 的 exogenous realization 后,已经得到一个 unit-specific slice:
\[Y=f_Y(X,\varepsilon).\]
所有 tokens 使用同一个 structural assignment \(f_Y\)。\[\varepsilon=(U,E),\qquad f_u^{\mathrm{SCM}}(x,E):=f_Y(x;u,E).\]
固定 \(U=u\) 后得到 token-specific slice。当前 UML grammar 可通过 \(\varepsilon=(U,E)\) 嵌入 SCM:
真实 \(U=u^\star\) 跨 same-token queries 保持;\(E\) 是 event-level randomness。Injective identity encoding 不会让 one-shot likelihood 自动恢复唯一 latent coordinates;不同 embeddings 仍可 response-equivalent。
\(f(x,e;u,c)\)
跨 units 共享、由 unit/context 调节的 mechanism family。
\(f_{u,c}\)
shared family 的 unit-conditioned instance;对象名用 unit-specific mechanism。
\(p_{\phi,\theta}(y\mid O,x)\)
one-shot factual likelihood 直接约束的是 abduction result 与 generator 合成的 outcome prediction。
A genealogy, not a succession
它更像多条支流汇合,而不是一条取代前人的直线
用 latent trait 或 random coefficient 表示 unit 差异。
做 partial pooling,或让系数随观测变量变化。
学习 gating、amortized posterior 或 context-conditioned function law。
把 intervention、counterfactual 与 latent identification 变成显式目标。
分开真实 unit、candidate uncertainty 与 mechanism input,在 one-shot 下学习 conditional response。
箭头只表示思想进入的时间顺序,不表示后者包含或淘汰前者。实际上,对当前 UML 最有压力的 baseline,恰恰是历史更老、表述更直接的 varying-coefficient 与 conditional density models。
Six coordinates
比较这些方法,不能只问“有没有 latent variable”
ID、repeated outcomes、context set、proxy,还是独立 evidence \(O\)?
依赖 repeated measurements,还是允许每个 unit 只有一个 factual event?
只是 abduction evidence、生成机制的 input,还是有 intervention semantics 的 treatment?
candidate-representation law、function posterior、coefficient function、conditional response,还是 structural equation?
unit heterogeneity、posterior uncertainty、event noise,还是三者并不区分?
point prediction、response law、latent coordinate,还是 causal/counterfactual quantity?
Family-by-family
十类近邻:相似的组件,不同的科学承诺
共同点
- 把 population-level regularity 与 unit-specific deviation 分开。
- 通过共享总体结构做 partial pooling,而不是给每个 unit 任意拟合。
关键区别
经典 longitudinal random effects 通常从同一 unit 的 repeated responses 推断 random effect,并显式给出 population distribution。UML 的 primary regime 是每个 unit 一条 factual event;ordinary prediction 直接把 \(X=x\) 当 evidence,\(q_\phi(u\mid x)\) 表达 learner 对同一 actual token 的 candidate uncertainty,也不必来自“prior × likelihood”的 posterior。
共同点
- person latent trait 与 item/input property 共同决定 response probability。
- latent state 是 response-relevant 的,不一定等于人的“全部本质”。
关键区别
IRT 通常依靠一个人对多个 items 的 response pattern 来测量 ability,并对 item response function 作强结构化假设。UML 把 \(O\) 与 outcome event 分开,允许 \(Y\) 连续、机制更一般;但 one-shot 下也更不能把 \(U\) 解释成已识别的真实人格坐标。
Hierarchical / empirical Bayes
prior → likelihood → posterior
共同点
- 都用 population information 帮助稀疏 unit data。
- 都能输出对 unit-specific quantity 的 uncertainty,而不仅是点估计。
关键区别
Bayesian route 先声明 \(p(U)\) 与 \(p(O\mid U)\),再由 Bayes rule 得到 \(p(U\mid O)\)。UML 目前直接学习 point estimate 或 \(q_\phi(u\mid O)\),没有强制生成 \(O\)、没有显式 population prior,也没有 posterior-calibration 保证。
共同点
- response 的 intercept 或 slope 随 unit/context information 改变。
- 当前 bilinear UML 在 observable location 层面正好落入这个家族。
关键区别
varying-coefficient model 直接学习 \(b_0(O)\) 与 \(b(O)\)。UML 再把它们 factorize 为低维 \(\mu(O)\) 与共享 \(a,B\),并传播 unit uncertainty。这个 factorization 是否有预测、校准或迁移优势,必须靠 matched baseline 证明,不能从公式本身推出。
Direct conditional prediction
\(q_\psi(Y\mid O,X)\)
共同点
- 在 observational one-shot data 上,两者真正被 likelihood 约束的都是 conditional response law。
- 都可以输出 location、scale、quantiles 或完整 density。
关键区别
direct model 不要求中间存在可解释的 \(U\) 与共享 mechanism。UML 押注“predictors evidence → point/Gaussian/Cauchy abduction → \(f_\theta(x,E;u)\)”这一 factorization 带来的 inductive bias、uncertainty decomposition 与跨 input reuse。无限灵活的 direct class 可以包含 UML 诱导的 law,因此不存在无条件的“UML 必然更优”。
共同点
- evidence-dependent gating 决定哪个 response regime 更适合当前样本。
- 共享少量 experts,避免每个 unit 独立建模。
关键区别
mixture of experts 通常把异质性表示成离散 experts 与 gating probabilities;当前 UML 使用连续 candidate \(\widetilde u\sim q_\phi(u\mid O)\) 和由 \(u\) 调制的共享 mechanism。这里的混合表示 learner uncertainty,不表示同一观测实际属于多个 units。
共同点
- encoder 把 observations 映射为 latent distribution。
- 所有 unit 共享 inference network,避免逐个优化 latent variables。
关键区别
VAE 的 \(q_\phi(U\mid O)\) 是某个 generative model posterior 的变分近似,通常用 ELBO、reconstruction 与 KL 训练。当前 UML 的 \(q_\phi(u\mid O)\) 直接为 outcome prediction 服务,不重建 \(O\),没有 KL,也不声称逼近一个已声明的 \(p(U\mid O)\)。
共同点
- 从 context 推断 task/function representation,再在新 \(X\) 上预测。
- 目标不是只记住一个点,而是快速形成可查询的 function law。
关键区别
Neural Processes 通常需要同一 task/function 的一组 context input–output pairs,并可原生表达 function posterior。当前 UML 先学习 candidate \(u\) 的 point / distributional abduction result,再调用共享 \(f_\theta(x,E;u)\)。因此 direct function generator 是竞争性邻近方案,function-space pushforward 只是派生读法。
SCM · nonseparable structural functions
共同点
- shared structural function 可被 latent / exogenous heterogeneity 调节,并诱导 unit-specific response maps。
- 研究对象已经超出单纯的 point predictor;机制与结构函数并不是 UML 首次引入。
关键区别
UML 把 unit-conditioned instances 设为 primary modeling objects,显式拆开 actual token、factual evidence、mechanism query 与 event noise,并把 one-shot 直接预测的量限定为 \(p_{\phi,\theta}(y\mid O,x)\)。这是目标与 data-regime 的组合,不是新的 SCM 表达能力。
共同点
- 都关心个体差异、alternative input,以及从观测到 latent/exogenous quantity 的 abduction。
- 都希望 learned structure 不只服务原始训练点。
关键区别
Deep SCM 的 counterfactual abduction 是在已声明的 causal graph 与 structural equations 内推断 exogenous noise;HTE 依赖 ignorability、overlap 或 proxy assumptions;causal representation identification 借助 interventions、environments 等额外结构。Base UML 只保证诱导的 predictive conditional response \(p_{\phi,\theta}(y\mid O,x)\)。把 \(X\) 改成 treatment,并不会自动获得 causal semantics。
The deepest mathematical relation
当前 tractable UML 在可观测层面,首先是一个受约束的 varying-coefficient distributional regression
把当前 bilinear mechanism 中的 \(U\) 积分掉,response location 可以改写成:
因此 slope vectors 被限制在 affine subspace \(\beta+\operatorname{col}(B)\) 中;Cauchy scale 还额外编码 evidence-dependent unit uncertainty 与 event noise。
这给出一个很干净的结论:如果实验只证明 UML 比 ordinary linear/Gaussian regression 好,它可能只是在证明 varying coefficients、low rank 或 heavy-tailed likelihood 有用。只有在与 direct conditional density、full varying coefficient、low-rank direct slope 和 matched-noise baselines 比较后,才能把增益归给 unit-mechanism factorization。
One-page comparison
把各方法放回同一组坐标
| 方法 | unit 信息 | 典型 unit 数据 | \(X\) 的角色 | 直接目标 | causal / latent claim |
|---|---|---|---|---|---|
| Mixed effects | group ID + repeated \(Y\) | 同 unit 多次测量 | regressor | fixed/random effects | 不自动因果;random effect 依模型识别 |
| IRT / Rasch | item response pattern | 同 person 多个 items | item property | latent trait + item curve | measurement claim;非一般 causal state |
| Varying coefficients | observed modifier \(O\) | 可 one-shot | regressor/query | \(b_0(O),b(O)\) | 通常不声明 latent truth |
| Direct conditional | \((O,X)\) | 可 one-shot | predictor/query | \(q(Y\mid O,X)\) | predictive only |
| VAE | observation \(O\) | 每样本一 observation 可行 | decoder condition(可选) | ELBO / generative model | latent 通常不可唯一识别 |
| Neural Process | context set | 每 task 多个 \((x,y)\) | target query | task-conditioned function law | 通常 predictive/meta-learning |
| SCM / nonseparable structural | exogenous / latent heterogeneity | 依识别设计而定 | structural parent / regressor | structural function or induced response | 因果含义与识别依额外 assumptions |
| Deep SCM / HTE | causal variables、proxies、treatment/outcome | 依设计而定 | intervention/treatment | interventional/counterfactual quantity | 需要额外 causal assumptions |
| Base UML | predictors \(X=x\) → point/Gaussian/Cauchy abduction | primary regime: one factual event | factual evidence + factual mechanism query | prediction \(p_{\phi,\theta}(y\mid x)\) | token→embedding injective 是 assumption;不自动识别 coordinates,response map 可 non-injective |
Internal lineage
在我们自己的谱系里,Causal Regression 与当前 UML 是 sibling specializations
\[\widetilde u\sim q_\phi(u\mid O),\qquad Y=f(\widetilde u,E).\]
observed \(X_{\mathrm{obs}}\) 可作为 \(O\) 的一部分,但没有直接 \(X_{\mathrm{obs}}\to Y\) 机制路径。\[\widetilde u\sim q_\phi(u\mid X=x),\qquad Y=f_\theta(x,E;\widetilde u).\]
同一个 \(x\) 先作为 factual evidence,再作为 factual query;若称为 treatment,仍需额外 assumptions。共同祖先是 Unit Abduction:从 admissible evidence 得到对候选 unit representations 的 belief。当前 paper 不是把 Causal Regression 的旧公式“推广一下”就自然得到,而是选择了另一条 outcome-mechanism branch。二者共享 primitive,不共享同一 tractable specialization。
Contribution boundary
一份不过度主张的 UML 贡献清单
可以主张
- 把 shared, unit-modulated family 的 unit-specific instances 设为 primary modeling objects。
- 提供 world-side \(U=u\)、predictors evidence、mechanism query 与 event noise 的角色分离。
- 把 evidence-only 与 explicit-input branch 明确分开。
- 明示 point / Gaussian / Cauchy 三种 abduction commitment,并把 one-shot target 定为 composed outcome prediction。
- 当前 Cauchy–bilinear specialization 提供 closed-form uncertainty propagation 与 low-rank response geometry。
- 把 predictive adequacy、latent identification 与 causal identification 分层陈述。
不能据此主张
- 首次学习 outcome-generating mechanisms,而历史工作只学习 predictors。
- SCM 的 shared assignment 意味着所有 units 只有同一条 response function。
- 首次提出 latent unit、individual heterogeneity 或 amortized inference。
- 仅凭 latent factorization 就优于 direct conditional prediction。
- 当前实验已恢复真实 \(U\) 或真实 physical mechanism。
- alternative \(X\) 自动具有 intervention/counterfactual 语义。
UML posits one fixed actual token realization \(U=u\). In ordinary prediction, predictors \(X=x\) first provide factual evidence for point, Gaussian, or Cauchy unit abduction and then serve as the factual query to a shared generator \(f_\theta(x,E;u)\). Alternative-input queries reuse the factual abduction result and change only the query.
Primary reading trail
原始文献入口
- Random effectsLaird & Ware (1982)
- Structural causal modelsPearl (2009)
- Independent causal mechanismsParascandolo et al. (2018)
- Nonadditive random functionsMatzkin (2003)
- Nonadditive triangular modelsImbens & Newey (2009)
- Varying coefficientsHastie & Tibshirani (1993)
- Hierarchical mixtures of expertsJordan & Jacobs (1994)
- Variational autoencodingKingma & Welling (2013/2014)
- Conditional Neural ProcessesGarnelo et al. (2018)
- Deep structural causal modelsPawlowski et al. (2020)
- Individual treatment effectsShalit et al. (2017)
- Latent confounding with proxiesLouizos et al. (2017)
- Interventional causal representationsAhuja et al. (2023)
- Counterfactual non-identificationNasr-Esfahany & Kiciman (2023)