UUnit Mechanism Learning

Method genealogy · UML-METHOD-GENEALOGY-001

Unit-specific mechanism 是 primary object

SCM 的 shared assignment 也会诱导 unit-specific slice。UML 的贡献不在新表达能力,而在 primary object、unit/evidence/event-noise 分离,以及从候选 unit representations 综合出 conditional response。

核心对象已校准SCM 关系已校准拒绝 broad first claim

先给定位

不是第一次发明 mechanism,而是把 unit-specific instance 变成主对象

它把三条历史上长期存在、却常被分散处理的思想放在了同一张图里:

Inheritance 01

unit 有稳定异质性

来自 random effects、IRT、random-coefficient 等传统:不同人或对象,不必共享同一个 response law。

Inheritance 02

可以从 evidence 推断 latent state

与 empirical Bayes、VAE、Neural Processes 相邻:有限观测可以转成 latent-state uncertainty;其中 Neural Processes 还可以直接表达 function uncertainty。

Inheritance 03

shared assignment 可诱导 unit slice

与 SCM、nonseparable structural functions 相邻:共享的 \(f\) 在固定 latent / exogenous realization 后本来就能产生 unit-specific response map。

UML 的特殊处,不在于首次发明 latent variable、个体异质性或 outcome-generating mechanism;而在于把共享、由 unit 调节的 family 的 unit-specific instances 设为 primary modeling objects,并明确分开 world-side \(U=u^\star\)predictors evidence \(X=x\)mechanism query \(x\)candidate representation \(u\)event noise \(E\)

token 与 embedding 的一一关系是 standing identity-encoding assumption;one-shot 数据不会因此识别唯一坐标系或真实 \(u^\star\)。Evidence abduction 表达 learner 对同一个 actual token 的候选 uncertainty,而不是让真实 identity 随机重抽:

Current identity–abduction–prediction contract
\[\begin{gathered}X=x\longmapsto \widehat u_\phi(x)\ \text{or}\ q_\phi(u\mid x),\\p_{\phi,\theta}(y\mid x)=\int p_\theta(y\mid x,u)q_\phi(u\mid x)\,du,\\p_\theta(y\mid x,u):=\mathcal L_E\{f_\theta(x,E;u)\}.\end{gathered}\]

同一个 \(x\) 先作为 factual evidence,再作为 factual query。Point、Gaussian、Cauchy 是三种 abduction commitment;prediction 是 abduction result 与 generator 的 composition。

The exact SCM relation

“SCM 所有样本共享 \(f\)”与“每个 unit 有自己的 response map”可以同时成立

标准 SCM 在 population 层面声明共享的 structural assignment;固定 unit 的 exogenous realization 后,已经得到一个 unit-specific slice:

Population-shared SCM assignment

\[Y=f_Y(X,\varepsilon).\]

所有 tokens 使用同一个 structural assignment \(f_Y\)。
Induced token-specific slice

\[\varepsilon=(U,E),\qquad f_u^{\mathrm{SCM}}(x,E):=f_Y(x;u,E).\]

固定 \(U=u\) 后得到 token-specific slice。

当前 UML grammar 可通过 \(\varepsilon=(U,E)\) 嵌入 SCM:

UML factorization inside an SCM-compatible grammar
\[\begin{gathered}U=u^\star,\\Y(x)=f_\theta(x,E;U),\\Y_u(x)=f_\theta(x,E;u).\end{gathered}\]

真实 \(U=u^\star\) 跨 same-token queries 保持;\(E\) 是 event-level randomness。Injective identity encoding 不会让 one-shot likelihood 自动恢复唯一 latent coordinates;不同 embeddings 仍可 response-equivalent。

Shared family

\(f(x,e;u,c)\)

跨 units 共享、由 unit/context 调节的 mechanism family。

Primary object

\(f_{u,c}\)

shared family 的 unit-conditioned instance;对象名用 unit-specific mechanism。

Predictive target

\(p_{\phi,\theta}(y\mid O,x)\)

one-shot factual likelihood 直接约束的是 abduction result 与 generator 合成的 outcome prediction。

A genealogy, not a succession

它更像多条支流汇合,而不是一条取代前人的直线

1950s–1980sIRT · random effects

用 latent trait 或 random coefficient 表示 unit 差异。

1980s–1990sEmpirical Bayes · varying coefficients

做 partial pooling,或让系数随观测变量变化。

1990s–2010sMixtures · VAE · Neural Processes

学习 gating、amortized posterior 或 context-conditioned function law。

2000s–2020sSCM · HTE · causal representations

把 intervention、counterfactual 与 latent identification 变成显式目标。

Current synthesisUnit Abduction → UML

分开真实 unit、candidate uncertainty 与 mechanism input,在 one-shot 下学习 conditional response。

箭头只表示思想进入的时间顺序,不表示后者包含或淘汰前者。实际上,对当前 UML 最有压力的 baseline,恰恰是历史更老、表述更直接的 varying-coefficient 与 conditional density models。

Six coordinates

比较这些方法,不能只问“有没有 latent variable”

Axis 01unit 信息从哪里来?

ID、repeated outcomes、context set、proxy,还是独立 evidence \(O\)?

Axis 02一个 unit 需要几条记录?

依赖 repeated measurements,还是允许每个 unit 只有一个 factual event?

Axis 03\(X\) 扮演什么角色?

只是 abduction evidence、生成机制的 input,还是有 intervention semantics 的 treatment?

Axis 04直接学习什么?

candidate-representation law、function posterior、coefficient function、conditional response,还是 structural equation?

Axis 05不确定性放在哪里?

unit heterogeneity、posterior uncertainty、event noise,还是三者并不区分?

Axis 06什么被识别?

point prediction、response law、latent coordinate,还是 causal/counterfactual quantity?

Family-by-family

十类近邻:相似的组件,不同的科学承诺

Statistical ancestor

Mixed-effects / random-effects

Laird & Ware, 1982 ↗

共同点

  • 把 population-level regularity 与 unit-specific deviation 分开。
  • 通过共享总体结构做 partial pooling,而不是给每个 unit 任意拟合。

关键区别

经典 longitudinal random effects 通常从同一 unit 的 repeated responses 推断 random effect,并显式给出 population distribution。UML 的 primary regime 是每个 unit 一条 factual event;ordinary prediction 直接把 \(X=x\) 当 evidence,\(q_\phi(u\mid x)\) 表达 learner 对同一 actual token 的 candidate uncertainty,也不必来自“prior × likelihood”的 posterior。

Measurement ancestor

IRT / Rasch models

Rasch, 1960 ↗

共同点

  • person latent trait 与 item/input property 共同决定 response probability。
  • latent state 是 response-relevant 的,不一定等于人的“全部本质”。

关键区别

IRT 通常依靠一个人对多个 items 的 response pattern 来测量 ability,并对 item response function 作强结构化假设。UML 把 \(O\) 与 outcome event 分开,允许 \(Y\) 连续、机制更一般;但 one-shot 下也更不能把 \(U\) 解释成已识别的真实人格坐标。

Inference ancestor

Hierarchical / empirical Bayes

prior → likelihood → posterior

共同点

  • 都用 population information 帮助稀疏 unit data。
  • 都能输出对 unit-specific quantity 的 uncertainty,而不仅是点估计。

关键区别

Bayesian route 先声明 \(p(U)\) 与 \(p(O\mid U)\),再由 Bayes rule 得到 \(p(U\mid O)\)。UML 目前直接学习 point estimate 或 \(q_\phi(u\mid O)\),没有强制生成 \(O\)、没有显式 population prior,也没有 posterior-calibration 保证。

Closest observable rival

Varying / random coefficients

Hastie & Tibshirani, 1993 ↗

共同点

  • response 的 intercept 或 slope 随 unit/context information 改变。
  • 当前 bilinear UML 在 observable location 层面正好落入这个家族。

关键区别

varying-coefficient model 直接学习 \(b_0(O)\) 与 \(b(O)\)。UML 再把它们 factorize 为低维 \(\mu(O)\) 与共享 \(a,B\),并传播 unit uncertainty。这个 factorization 是否有预测、校准或迁移优势,必须靠 matched baseline 证明,不能从公式本身推出。

Closest predictive rival

Direct conditional prediction

\(q_\psi(Y\mid O,X)\)

共同点

  • 在 observational one-shot data 上,两者真正被 likelihood 约束的都是 conditional response law。
  • 都可以输出 location、scale、quantiles 或完整 density。

关键区别

direct model 不要求中间存在可解释的 \(U\) 与共享 mechanism。UML 押注“predictors evidence → point/Gaussian/Cauchy abduction → \(f_\theta(x,E;u)\)”这一 factorization 带来的 inductive bias、uncertainty decomposition 与跨 input reuse。无限灵活的 direct class 可以包含 UML 诱导的 law,因此不存在无条件的“UML 必然更优”。

Discrete neighbor

Mixture of experts

Jordan & Jacobs, 1994 ↗

共同点

  • evidence-dependent gating 决定哪个 response regime 更适合当前样本。
  • 共享少量 experts,避免每个 unit 独立建模。

关键区别

mixture of experts 通常把异质性表示成离散 experts 与 gating probabilities;当前 UML 使用连续 candidate \(\widetilde u\sim q_\phi(u\mid O)\) 和由 \(u\) 调制的共享 mechanism。这里的混合表示 learner uncertainty,不表示同一观测实际属于多个 units。

Amortized inference neighbor

VAE

Kingma & Welling, 2013/2014 ↗

共同点

  • encoder 把 observations 映射为 latent distribution。
  • 所有 unit 共享 inference network,避免逐个优化 latent variables。

关键区别

VAE 的 \(q_\phi(U\mid O)\) 是某个 generative model posterior 的变分近似,通常用 ELBO、reconstruction 与 KL 训练。当前 UML 的 \(q_\phi(u\mid O)\) 直接为 outcome prediction 服务,不重建 \(O\),没有 KL,也不声称逼近一个已声明的 \(p(U\mid O)\)。

Function-learning neighbor

Neural Processes / meta-learning

Garnelo et al., 2018 ↗

共同点

  • 从 context 推断 task/function representation,再在新 \(X\) 上预测。
  • 目标不是只记住一个点,而是快速形成可查询的 function law。

关键区别

Neural Processes 通常需要同一 task/function 的一组 context input–output pairs,并可原生表达 function posterior。当前 UML 先学习 candidate \(u\) 的 point / distributional abduction result,再调用共享 \(f_\theta(x,E;u)\)。因此 direct function generator 是竞争性邻近方案,function-space pushforward 只是派生读法。

Formal ancestor

SCM · nonseparable structural functions

Pearl, 2009 ↗ · Matzkin, 2003 ↗ · Imbens & Newey, 2009 ↗

共同点

  • shared structural function 可被 latent / exogenous heterogeneity 调节,并诱导 unit-specific response maps。
  • 研究对象已经超出单纯的 point predictor;机制与结构函数并不是 UML 首次引入。

关键区别

UML 把 unit-conditioned instances 设为 primary modeling objects,显式拆开 actual token、factual evidence、mechanism query 与 event noise,并把 one-shot 直接预测的量限定为 \(p_{\phi,\theta}(y\mid O,x)\)。这是目标与 data-regime 的组合,不是新的 SCM 表达能力。

Causal neighbor

Deep SCM · HTE · causal representation

Deep SCM ↗ · ITE ↗ · CRL ↗

共同点

  • 都关心个体差异、alternative input,以及从观测到 latent/exogenous quantity 的 abduction。
  • 都希望 learned structure 不只服务原始训练点。

关键区别

Deep SCM 的 counterfactual abduction 是在已声明的 causal graph 与 structural equations 内推断 exogenous noise;HTE 依赖 ignorability、overlap 或 proxy assumptions;causal representation identification 借助 interventions、environments 等额外结构。Base UML 只保证诱导的 predictive conditional response \(p_{\phi,\theta}(y\mid O,x)\)。把 \(X\) 改成 treatment,并不会自动获得 causal semantics。

The deepest mathematical relation

当前 tractable UML 在可观测层面,首先是一个受约束的 varying-coefficient distributional regression

把当前 bilinear mechanism 中的 \(U\) 积分掉,response location 可以改写成:

Observable reduction
\[\begin{gathered}m(o,x)=b_0(o)+b(o)^\top x,\\b_0(o)=\alpha+a^\top\mu(o),\\b(o)=\beta+B\mu(o).\end{gathered}\]

因此 slope vectors 被限制在 affine subspace \(\beta+\operatorname{col}(B)\) 中;Cauchy scale 还额外编码 evidence-dependent unit uncertainty 与 event noise。

这给出一个很干净的结论:如果实验只证明 UML 比 ordinary linear/Gaussian regression 好,它可能只是在证明 varying coefficients、low rank 或 heavy-tailed likelihood 有用。只有在与 direct conditional density、full varying coefficient、low-rank direct slope 和 matched-noise baselines 比较后,才能把增益归给 unit-mechanism factorization。

One-page comparison

把各方法放回同一组坐标

方法unit 信息典型 unit 数据\(X\) 的角色直接目标causal / latent claim
Mixed effectsgroup ID + repeated \(Y\)同 unit 多次测量regressorfixed/random effects不自动因果;random effect 依模型识别
IRT / Raschitem response pattern同 person 多个 itemsitem propertylatent trait + item curvemeasurement claim;非一般 causal state
Varying coefficientsobserved modifier \(O\)可 one-shotregressor/query\(b_0(O),b(O)\)通常不声明 latent truth
Direct conditional\((O,X)\)可 one-shotpredictor/query\(q(Y\mid O,X)\)predictive only
VAEobservation \(O\)每样本一 observation 可行decoder condition(可选)ELBO / generative modellatent 通常不可唯一识别
Neural Processcontext set每 task 多个 \((x,y)\)target querytask-conditioned function law通常 predictive/meta-learning
SCM / nonseparable structuralexogenous / latent heterogeneity依识别设计而定structural parent / regressorstructural function or induced response因果含义与识别依额外 assumptions
Deep SCM / HTEcausal variables、proxies、treatment/outcome依设计而定intervention/treatmentinterventional/counterfactual quantity需要额外 causal assumptions
Base UMLpredictors \(X=x\) → point/Gaussian/Cauchy abductionprimary regime: one factual eventfactual evidence + factual mechanism queryprediction \(p_{\phi,\theta}(y\mid x)\)token→embedding injective 是 assumption;不自动识别 coordinates,response map 可 non-injective

Internal lineage

在我们自己的谱系里,Causal Regression 与当前 UML 是 sibling specializations

Evidence-only branch · Causal Regression

\[\widetilde u\sim q_\phi(u\mid O),\qquad Y=f(\widetilde u,E).\]

observed \(X_{\mathrm{obs}}\) 可作为 \(O\) 的一部分,但没有直接 \(X_{\mathrm{obs}}\to Y\) 机制路径。
Explicit-input branch · current paper

\[\widetilde u\sim q_\phi(u\mid X=x),\qquad Y=f_\theta(x,E;\widetilde u).\]

同一个 \(x\) 先作为 factual evidence,再作为 factual query;若称为 treatment,仍需额外 assumptions。

共同祖先是 Unit Abduction:从 admissible evidence 得到对候选 unit representations 的 belief。当前 paper 不是把 Causal Regression 的旧公式“推广一下”就自然得到,而是选择了另一条 outcome-mechanism branch。二者共享 primitive,不共享同一 tractable specialization。

Contribution boundary

一份不过度主张的 UML 贡献清单

可以主张

  • 把 shared, unit-modulated family 的 unit-specific instances 设为 primary modeling objects。
  • 提供 world-side \(U=u\)、predictors evidence、mechanism query 与 event noise 的角色分离。
  • 把 evidence-only 与 explicit-input branch 明确分开。
  • 明示 point / Gaussian / Cauchy 三种 abduction commitment,并把 one-shot target 定为 composed outcome prediction。
  • 当前 Cauchy–bilinear specialization 提供 closed-form uncertainty propagation 与 low-rank response geometry。
  • 把 predictive adequacy、latent identification 与 causal identification 分层陈述。

不能据此主张

  • 首次学习 outcome-generating mechanisms,而历史工作只学习 predictors。
  • SCM 的 shared assignment 意味着所有 units 只有同一条 response function。
  • 首次提出 latent unit、individual heterogeneity 或 amortized inference。
  • 仅凭 latent factorization 就优于 direct conditional prediction。
  • 当前实验已恢复真实 \(U\) 或真实 physical mechanism。
  • alternative \(X\) 自动具有 intervention/counterfactual 语义。
UML posits one fixed actual token realization \(U=u\). In ordinary prediction, predictors \(X=x\) first provide factual evidence for point, Gaussian, or Cauchy unit abduction and then serve as the factual query to a shared generator \(f_\theta(x,E;u)\). Alternative-input queries reuse the factual abduction result and change only the query.

Primary reading trail

原始文献入口

Review loop

指定一条谱系继续深挖

可以直接问:“UML 与 mixed effects 的 posterior 到底差在哪?”、“observable reduction 是否使 latent (U) 多余?”或“什么时候 alternative (X) 才能变成 intervention?”