Varying coefficients
让 coefficient 随年龄、时间、位置、剂量或状态平滑变化;同一 modifier 的 units 共享 response function。
强项:低维、可解释、科学语义清楚Narrative review · 中文阅读版 v0.4
一条横跨统计学、纵向数据、空间模型、因果机器学习与现代 function generators 的方法谱系。 这篇综述回答两个问题:前人究竟做到了什么,以及每个 unit 仅一次 factual target observation 时还缺什么。
中文叙述性综述草稿 · 2026-07-16 · 24 条主干参考文献。不是 systematic review、meta-analysis 或已就绪的 arXiv submission。
Active ontology:world-side U=u* 与 Y=f(x,E;u*) → predictors x 作为 factual evidence x^F → point / Gaussian / Cauchy abduction → candidate u 与 query x^Q 进入 shared generator → p(y | x^F,x^Q)。 Same-token query keeps factual abduction fixed and changes only x^Q;不同 embeddings 可以产生相同 predictive behavior。 Cauchy 有 location/scale 但无 finite mean/variance;它不意味着 unrestricted outcome support。
思想被多次提出,统一的 one-shot learning object 尚未成熟。 VCM 由 observed modifier 给 unit 分配系数函数;mixed effects 借 repeated outcomes 推断个体曲线; causal ML 学习条件平均 treatment response;现代 meta-learning 从 context 生成 task-specific function。
不是宣称“首次让每个个体拥有不同函数”,而是把 U=u* → factual-x abduction → f(x,E;u) → outcome prediction 分开 world 与 learner;在新 query 下复用 factual predictors 所给出的 abduction result,只改变 response query。
Method genealogy
它们都在“完全 pooling”与“每个 unit 完全独立拟合”之间寻找可学习的共享结构,但 unit、evidence 与 estimand 并不相同。
让 coefficient 随年龄、时间、位置、剂量或状态平滑变化;同一 modifier 的 units 共享 response function。
强项:低维、可解释、科学语义清楚通过 population prior 与 within-subject repeated outcomes,对随机系数或随机函数做 shrinkage。
强项:纵向轨迹与 subject-specific uncertainty学习 CATE 或 continuous dose-response;只有在 consistency、可交换性 / 无未测混杂与 overlap 等识别条件下才有因果含义。
强项:treatment / dose 的决策问题从 descriptor、history 或少量 context pairs 生成整张网络、函数或函数分布。
强项:高维 task conditioning 与快速适应Historical anchor · Hastie & Tibshirani, 1993
它把固定参数向量变成由 effect modifier 索引的一族局部关系:对 predictors 保留简单结构, 只沿低维 modifier 做非参数平滑。这既降低了全维非参数回归的样本复杂度,也保留了 coefficient-level interpretation。
准确边界:在本文统一形式下,VCM 可嵌入为确定性、observed-modifier-indexed 特例;它不是从每个 subject 的独有历史中识别任意 latent function。
Evidence discipline
这篇综述不把真实预测、半合成 counterfactual recovery 与纯合成 mechanism recovery 混成同一种“表现”。
可以评估 held-out prediction、forecasting、拟合与推断;通常没有完整 unit counterfactual curve truth。
可以比较已知 response curve 的 integrated error;不能证明真实病人的反事实曲线已被恢复。
可以严格检查 function recovery 与 calibration;外部有效性取决于 simulator 是否覆盖真实难点。
Full Chinese review
下面由 canonical review-zh.md 生成。PDF 与网页共享同一正文;如需批注或离线阅读,优先使用中文 PDF。
设 unit \(i\) 的 response law 为
\[ R_i:\mathcal X\to\mathcal P(\mathcal Y). \]
本文关心的不是某一种估计器,而是下面这个更基础的问题:
学术界以哪些形式允许不同 unit 拥有不同 response function?这些方法依靠什么共享结构 获得可学习性,在哪类数据上表现良好,又为什么没有以一个统一名称成为通用机器学习范式?
这里的 “unit” 可以是病人、消费者、地理区域、设备、时间序列所处的局部状态,也可以是 元学习中的 task。不同文献对 unit 的定义并不相同,因此“看起来都在学习一条个体曲线”并不 意味着它们具有相同 estimand 或 identification semantics。
本文采用叙述性而非穷尽式检索,把文献分成三层:
泛泛的“个性化预测”不自动纳入。只有当模型显式表达 unit-conditioned relation、curve、 mechanism 或 function distribution 时,才属于本文讨论的核心对象。
本文把实验主张分成三档:
这一区分很重要。半合成数据可以比较方法是否恢复了已知曲线,却不能直接证明真实病人的 counterfactual response 已被恢复。
经典监督学习通常估计一条共享 law:
\[ Y_i\sim R(\cdot\mid X_i). \]
最简单的 unit heterogeneity 是让 observed descriptor \(Z_i\) 修改这条 law:
\[ R_i(\cdot\mid x)=G_\theta(Z_i)(\cdot\mid x). \]
进一步,可以把 unit function 本身视为 latent random object:
\[ F_i\sim P_F, \qquad Y_{it}\sim F_i(\cdot\mid X_{it}), \qquad p(F_i\mid\mathcal O_i) \]
由 unit 的证据集合 \(\mathcal O_i\) 更新。前一种写法给出一个确定的 context-indexed function; 后一种写法保留了 learner 对 unit function 的后验不确定性。
经典 VCM 可以写成
\[ \mathbb E(Y_i\mid X_i,Z_i) =\beta_0(Z_i)+X_i^\top\beta(Z_i). \]
因此每个 unit 确实被赋予一条
\[ G_i(x)=\beta_0(Z_i)+x^\top\beta(Z_i), \]
但两个具有相同 \(Z_i\) 的 unit 得到相同函数。VCM 学习的是观测 modifier 到函数的映射, 不是从该 unit 的独有历史中识别一条任意 latent function。
在纵向或动态问题中,更稳妥的表示是
\[ Y_{it}\sim R_\theta(\cdot\mid A_{it},U_i,S_{it},E_{it}), \]
其中:
如果把 \(S_{it}\) 与 \(U_i\) 混在一起,“同一个 unit 的 response function”就会随每次记录 任意改变;如果把 \(E_{it}\) 吸收到 \(U_i\),模型又会把偶然 realization 误当成稳定个性。
下面两个对象在观测数据中可能数值相似,但语义不同:
\[ m(a,x)=\mathbb E(Y\mid A=a,X=x), \]
\[ \mu(a,x)=\mathbb E\{Y(a)\mid X=x\}. \]
只有在 treatment assignment、confounding、consistency 和 support 条件成立时,前者才能识别 后者。更进一步,即便识别了 \(\mu(a,x)\),它通常仍是特征为 \(x\) 的人群条件平均,而不是 某个不可约个体的完整 \(Y_i(a)\)。
个体参数并不是从 VCM 才开始出现。Laird 与 Ware 的纵向 random-effects model 把总体固定效应 与 subject-specific random effects 分开:
\[ Y_{it}=X_{it}^\top\beta+Z_{it}^\top b_i+\varepsilon_{it}, \qquad b_i\sim P_b. \]
重复测量使研究者能够对 \(b_i\) 做 shrinkage estimation;新 subject 的估计则借助 population distribution。Laird & Ware, 1982 奠定了这一纵向建模传统。
Guo 后来把 random effect 从有限维向量扩展为随机函数:
\[ G_i(t)=G_0(t)+B_i(t), \]
并在统一平滑空间中同时估计 population-average 与 subject-specific curves。 Guo, 2002 因而是经典统计学中最接近 “每个 subject 有一条自己的 response curve”的文献之一。
这条路线的代价是:它通常需要同一 subject 的多次观测。只有一个 outcome 时,个体随机斜率 或随机函数主要由 population prior 与协变量决定,unit-specific evidence 极弱。
局部回归在 Cleveland、Grosse 与 Shyu 的工作中已经提供了“参数随局部位置变化”的计算基础。 Hastie 与 Tibshirani 将这类思想系统化为 varying-coefficient models:
\[ g\{\mathbb E(Y\mid X,R)\} =\sum_{j=0}^p X_j\beta_j(R_j). \]
他们给出平滑估计与 backfitting 算法,并把框架扩展到 Gaussian regression、广义线性模型和 Cox proportional hazards,从而把 GAM、dynamic GLM 与局部 effect modification 连接起来。 Hastie & Tibshirani, 1993
VCM 的关键贡献不只是“多加了 interaction”。它把一个 unit 的 descriptor \(R_i\) 映射成一组 局部 coefficient functions,从而间接产生该 unit 的 response function。与此同时,它用 “对 \(X\) 保持简单、只对低维 modifier 做非参数平滑”降低完全非参数回归的维数灾难。
原论文的第一个定量例子不是 Burns 或 Aorta,而是一个单缸乙醇发动机的 NOx 排放实验, 共 \(n=88\) 个观测。令 \(E\) 表示 air–fuel equivalence ratio,\(C\) 表示 compression ratio, 作者拟合
\[ \mathbb E(\mathrm{NOx}\mid E,C)=\beta_0(E)+\beta_1(E)C. \]
这里 \(E\) 是 effect modifier,\(C\) 是保持局部线性的 predictor。最终 varying-slope 模型的 residual sum of squares 为 2.65(72 degrees of freedom);表中三个更简单的结构分别为 5.19、6.33 和 3.20。论文据 approximate F-tests 判断:\(E\) 与 \(C\) 的 interaction 不能省略, 且 \(C\) 的 coefficient 需要随 \(E\) 非线性变化。这是有意义的结构比较与 in-sample fit, 但不是现代意义上的 held-out benchmark。Hastie & Tibshirani, 1993
第二个主要应用把 VCM 放进 logistic regression,研究回顾性 myocardial-infarction 数据中 blood pressure、cholesterol ratio 与 antihypertensive treatment 的交互。作者明确提醒:风险因子 是在病例发生 MI 之后测量的,因此该例更多是在展示 flexible interaction 以及 naive observational interpretation 的陷阱,不能当作个体化 treatment effect 的证据。 Hastie & Tibshirani, 1993
这个历史事实也澄清了本文的术语:VCM 中的 modifier 可以是年龄、时间、位置、剂量或系统状态, 它为具有相同 modifier 的 observations 分配同一条条件响应函数;它不自动等于某个 subject 的 独有 evidence,更不自动识别不可约的 individual mechanism。
Fan 与 Zhang 随后建立了 local linear、two-step optimal estimation 等统计理论;当不同 coefficient functions 具有不同 smoothness 时,两步估计可以优于朴素 one-step procedure。 Fan & Zhang, 1999;其后续综述总结了 VCM 在经济、 金融、流行病学、医学、生态、纵向和 survival data 中的发展。 Fan & Zhang, 2008
Hoover 等研究了不规则重复测量中的 time-varying coefficients,允许同一 subject 内相关,并 给出 smoothing spline、local polynomial、cross-validation 和收敛性质。 Hoover et al., 1998
Huang、Wu 与 Zhou 进一步用 basis functions 做全局平滑,提供 subject bootstrap、置信区域与 假设检验,并处理 observation times 稀疏且不规则的 repeated measurements。 Huang et al., 2002
Chen 与 Tsay 的 functional-coefficient autoregressive model 让 AR coefficients 随滞后状态 变化,包含或近似多种 threshold 和 smooth-transition dynamics。 Chen & Tsay, 1993
Cai、Fan 与 Yao 发展了局部线性估计、模型检验和 forecasting 方法。他们强调:只平滑一个 低维状态 \(U_t\),同时保持对 lag vector 的线性结构,可以比完全非参数时间序列更节省样本。 Cai et al., 2000
Geographically Weighted Regression 在每个地理位置拟合局部回归关系,并用空间 kernel 决定 邻近观测的权重。它本质上是以 location 为 modifier 的变系数模型,适合 housing、环境、 流行病学和区域经济中的 spatial nonstationarity。 Brunsdon et al., 1996
传统 VCM 预先指定哪个变量是 modifier。Adaptive VCM 进一步学习一个低维 index,使 coefficients 成为未知线性组合的函数,从而在灵活性和维数约简之间折中。 Fan, Yao & Cai, 2003
在 large-\(p\), small-\(n\) 情形中,Xue 与 Qu 通过非凸正则化选择非零 coefficient functions, 证明 oracle property 与最优收敛率;其模拟中真实模型选择频率高于 LASSO、adaptive LASSO 和 SCAD。Xue & Qu, 2012
Model-based recursive partitioning 先拟合一个参数模型,再检验 parameter instability,并沿 最不稳定的 partitioning variable 递归切分,因此得到 piecewise-constant 的局部响应模型。 Zeileis et al., 2008
Decision-tree-boosted VCM 则直接用 boosted trees 表示 effect modifiers,减少对 modifier space 的平滑结构假设,并保留 coefficient-level explanation。 Zhou & Hooker, 2022
截至 2026 年,这条统计学路线仍在继续发展。Fabbrico、Pedone 与 Stingo 的 INVENT 模型把 covariates 同时作为 predictors 与 effect modifiers,用正交 spline basis 和稀疏 Bayesian prior 选择线性、非线性 main effects 与 interactions,并显式处理这种双重角色造成的 likelihood identifiability 问题。它产生 subject-specific coefficients,但这些 coefficients 仍是 observed covariates 的平滑函数,而不是从独有 repeated history 推断的 latent unit function。 Fabbrico et al., 2026
二元 treatment 下,causal forest 估计
\[ \tau(x)=\mathbb E\{Y(1)-Y(0)\mid X=x\}, \]
将 random forest 的局部分组能力用于 heterogeneous treatment effects 与统计推断。 Wager & Athey, 2018
Bayesian multi-task Gaussian Process 把 factual 与 counterfactual outcomes 当作 vector-valued function,并给出个体 treatment-effect estimate 的 pointwise credible intervals。 Alaa & van der Schaar, 2017
连续 treatment 把一个 contrast 扩展成整条曲线。DRNet 使用 treatment-specific layers 与 dose strata heads 学习多个 treatment 的 dose-response。 Schwab et al., 2020
SCIGAN 用生成器补全 counterfactual response curves,再训练 inference network 为新样本预测 曲线。Bica et al., 2020
VCNet 是这条因果谱系与经典 VCM 的最直接连接。它让 neural prediction head 的权重成为 treatment \(t\) 的 spline functions:
\[ \widehat\mu(t,x)=f_{\theta(t)}\{z(x)\}. \]
论文同时估计 generalized propensity density,并用 functional targeted regularization 估计 整条 average dose-response curve。Nie et al., 2021
然而,这些论文中的 “individualized” 通常指
\[ \mu(t,x)=\mathbb E\{Y(t)\mid X=x\}, \]
即 observed covariates 所索引的条件平均 potential-outcome curve。它们没有从一个人的一次 factual treatment 中识别该人的不可约 latent \(Y_i(t)\) trajectory。
Hypernetwork 用一个网络生成另一个网络的参数:
\[ \theta_i=h_\phi(O_i), \qquad G_i(x)=f_{\theta_i}(x). \]
原始 HyperNetworks 在 character-level language modeling、handwriting generation 和 neural machine translation 上达到接近当时 SOTA 的结果,并在 CNN 上以更少参数取得有竞争力的图像 识别表现。Ha et al., 2017
Conditional Neural Process 从少量 context input-output pairs 推断一条 task-specific function, 把 Gaussian Process 的函数先验思想与可扩展神经网络结合,并用于回归、分类和 image completion。Garnelo et al., 2018
这类方法证明了“从 evidence 生成一条函数”已经进入主流 ML。它们与 VCM 的区别在于 modifier 不再只是一个低维标量,生成的也可能是整张网络;但它们通常不自动拥有 causal 或 physical mechanism semantics。
RECaST 用 random calibration effect \(\beta_i=g(\theta_T,x_i)/f(\theta_S,x_i)\) 把 source model 的 prediction 校准到 target population。在 source/target 都取线性结构、feature \(x_i\sim\mathcal N_p(0,I_p)\) 时,两个线性投影之比 exact 服从 Cauchy;其 heavy tails 允许较大的 source–target discrepancy,并服务于 posterior predictive uncertainty 与 prediction-set coverage。Hickey, Williams & Hector, 2024
这是当前 Cauchy 选择的重要组件级邻居,但不是相同 learning object。RECaST 的 \(\beta_i\) 校准 source-to-target mapping,论文也明确采用 Bayesian parent-parameter posterior; 它不从单个 unit evidence abduce 对 fixed actual \(U=u^\star\) 的 candidate embedding law,也不学习 \(u\mapsto\{x\mapsto p_\theta(\cdot\mid x,u)\}\) 的 shared generator family。因此,可以借用它对 Cauchy ratio、 heavy-tail robustness 与 coverage 的论证,不能把它写成已经提出了本文的四层 ontology。
| 方法族 | 典型形式 | unit evidence | primary object | 最强可解释含义 |
|---|---|---|---|---|
| VCM / functional coefficient | \(G_i(x)=\beta_0(Z_i)+x^\top\beta(Z_i)\) | observed modifier \(Z_i\) | 确定的局部 coefficient functions | 相同 \(Z\) 的 units 共享同一 response function |
| Random/functional mixed effects | \(G_i=G_0+B_i\) | group identity + repeated outcomes | random coefficient/function posterior | 在层级先验下的 subject-specific curve |
| CATE / dose-response | \(\mu(a,x)=E\{Y(a)\mid X=x\}\) | pretreatment covariates | conditional potential-outcome mean/contrast | 在识别假设下的条件平均因果响应 |
| Hypernetwork / Neural Process | \(O_i\mapsto p(G_i\mid O_i)\) 或 \(\theta_i=h(O_i)\) | task context、descriptor、history | task/unit-conditioned function | 数据驱动的函数生成;不自动是因果机制 |
对照 guard。 表中的 random coefficient/function posterior 与 \(p(G_i\mid\mathcal O_i)\) 是 mixed-effects、Gaussian Process 或 Neural Process 等相邻文献的 真实学习对象,不能为了贴合当前方法而改名或抹去。反过来,这些文献中的 prior/likelihood/posterior 语义也不能自动移植给当前的 \(q_\phi(u\mid O)\):除非另行给出 generative model 与 Bayesian update,\(q_\phi\) 只是 learner-side candidate uncertainty,不预设为 population prior 更新得到的 Bayesian posterior,也不包含 \(\phi,\theta\) 的参数不确定性。
这个表说明,文献中的“每个 unit 一条函数”至少有三种不同强度:
第三种是最相邻的 function-generator 谱系,也最容易遭遇不可识别性;当前契约与它的关键区别是, 直接 amortize 的是关于 fixed actual \(U=u^\star\) 的 candidate law \(q_\phi(u\mid O)\),再与 shared \(f_\theta(x,E;u)\) composition; 普通预测输出是 outcome distribution \(p_{\phi,\theta}(y\mid O,x)\),而不是 sampled unit 或 function posterior。
VCM 最理想的 modifier 通常是一到三个有明确科学含义的变量,例如:
此时研究问题本身就是“关系如何随这个轴变化”,coefficient curves 比黑箱 feature interaction 更容易解释。
当每个 subject 在多个时间点被观察时,random slopes、functional mixed effects 和 longitudinal VCM 可以同时利用 population sharing 与 within-subject evidence。典型场景包括生长曲线、 生物标志物、CD4 trajectory、wearables、设备退化和个体行为序列。
这里必须区分 unit 与 observation:当 modifier \(U=t\) 是 calendar time 时,\(\beta(t)\) 首先表示 population relationship 随时间改变;它并不因为每个时间点不同,就自动成为“每个人一条函数”。 只有再加入 subject identity、random effects 或足够的 within-subject history,才能把 time-varying population effect 与 subject-specific trajectory 分开。
如果系统动力学随当前状态连续变化,functional-coefficient AR 可以比固定 AR 更灵活,又比 完全非参数高阶 autoregression 更省样本。若真实机制存在硬 threshold,tree/TAR 往往更合适。
当“同一协变量在不同地点产生不同关系”是核心科学问题时,GWR 与 spatial VCM 很自然。但必须 防止把遗漏的空间 confounder 或不稳定局部样本误解成真实局部机制差异。
连续 dose-response 在精准医疗、policy intensity、pricing 和 resource allocation 中尤其重要。 这类方法需要:足够样本量、充分 overlap、可信的 pretreatment covariates,以及 treatment assignment mechanism 的合理建模。
当训练数据包含许多相关 tasks,每个新 task 只给少量 context pairs 时,Neural Process、 Hypernetwork 和 meta-learning 可以学习跨函数的生成规律。这里的关键不是“每个 task 单独训练”, 而是用大量旧 tasks 学到一个可快速条件化的 function prior。
| 文献与数据 | 数据性质 | 代表性结果 | 可以支持什么 | 不能支持什么 |
|---|---|---|---|---|
| Hastie–Tibshirani ethanol engine,\(n=88\) | 真实受控实验;主要是 in-sample fit | varying-slope VCM RSS 2.65;三个更简单结构为 5.19、6.33、3.20 | approximate F-tests 支持 \(E\)–\(C\) interaction 与 nonlinear coefficient variation | 没有 held-out test;不能把 RSS 直接包装成现代 predictive performance |
| Hastie–Tibshirani myocardial-infarction example | 真实回顾性 observational data | logistic VCM 展示 blood pressure/cholesterol curves 与 treatment 的 flexible interaction | VCM 可扩展到 binary outcome,并把 treatment-specific curves 变成可检查对象 | covariates 在 MI 后测量;原文明确警告不能作 naive causal interpretation |
| Cai–Fan–Yao Canadian lynx,前 102 点训练、后 12 点预测 | 真实时间序列 held-out forecasting | 一步预测 AAPE 相比 TAR 再降低约 25%;相对 linear AR(2),nonlinearity test \(p<0.001\) | 平滑 state-dependent dynamics 可改善短期预测 | 作者指出 absolute error 只在小数第二位改善,实际幅度不应夸大 |
| Hoover et al. HIV-exposed children growth | 真实纵向流行病学 | 展示 gender、HIV status、maternal vitamin A effects 随时间变化 | irregular repeated measurements 下可估 time-varying effects | 原论文不是现代 predictive leaderboard |
| Huang–Wu–Zhou AIDS,283 名 HIV-positive males、每人 1–14 次测量 | 真实不规则纵向数据 | 展示 baseline、smoking、age、pre-CD4 effects 的时间变化,并发展 bootstrap inference | 稀疏 observation times 下可做曲线估计与检验 | 不提供真实个体 counterfactual curve ground truth |
| VCNet:IHDP 与 News | 真实 covariates;continuous treatment 与 outcome 半合成 | testing AMSE:IHDP 0.117 vs DRNet 0.230;News 0.024 vs DRNet 0.114 | VCM-style neural head 对平滑 continuous-treatment benchmark 有效 | News 上 GPS 为 0.022,略优于 VCNet;结果不是现实因果真值验证 |
| SCIGAN:TCGA、News、MIMIC | 真实 covariates;response curves 半合成 | \(\sqrt{\mathrm{MISE}}\):1.89、3.71、2.09;DRNet 为 3.64、4.98、4.45 | 生成式曲线补全在已知 simulator truth 上可优于若干 baseline | counterfactual outcomes 仍由研究者生成;论文明确说真实数据无法直接完整评估 |
| HyperNetworks 的 sequence/image experiments | 真实通用 ML benchmark | sequence modeling 接近当时 SOTA,CNN 以较少参数保持有竞争力 | conditional parameter generation 可以扩展到高维任务 | 不是 unit-level causal response 的证据 |
这张表揭示了一个结构性事实:经典 VCM 的真实数据证据多强调拟合、解释、推断或 forecasting; 现代 individualized causal response 的完整曲线指标则主要来自半合成数据。 两者不能用同一 证据标准混在一起。
完全 pooling 假设所有 units 共用一条函数;完全分离则试图为每个 unit 独立拟合函数,通常 不可学习。变系数、mixed effects 与 function generator 都采用中间道路:
\[ \text{共享函数生成规律}\quad+\quad\text{unit-specific coordinate/evidence}. \]
完全非参数 \(E(Y\mid X,Z)\) 需要在 \((X,Z)\) 的联合空间平滑。VCM 保留对 \(X\) 的简单结构, 只让 coefficient 随低维 \(Z\) 变化,因此能在灵活性与样本复杂度之间取得较好平衡。
树或深网也能拟合 interactions,但一条 \(\beta_j(t)\) 曲线直接回答:“变量 \(X_j\) 的作用如何 随年龄、时间、地点或剂量变化?”这对科学解释、机制假设生成和 subgroup discovery 很有价值。
Mixed effects、GP 与 Neural Process 不必把每条 unit function 当成一个确定点。它们可以保留 \(p(G_i\mid\mathcal O_i)\),在 evidence 稀少时向 population structure 收缩,并给出函数或 contrast 的 uncertainty。
若每个 unit 只观察
\[ Y_i=G_i(X_i), \]
则对任意 \(x^\star\neq X_i\),都有无穷多条函数在 \(X_i\) 处一致、在 \(x^\star\) 处分叉。 所以:
No cross-unit structure, no unit-level function learning.
所有可行方法都必须引入共享 family、smoothness、低秩、random-effects distribution、task prior、 结构方程、intervention data 或其他 restriction。“每个 unit 有完全自由的一条函数”不是一个 可学习模型。
VCM 的优势依赖 modifier 维度较低。Cai 等明确指出,多维 modifier 的局部平滑在实践中很快 失效。Adaptive index、sparsity、trees 与 deep encoders 缓解了问题,但同时弱化了 coefficient curve 的直接解释。
说 VCM“本质上仍是线性模型”并不完全准确:\(\beta_j(U)\) 与 link function 可以产生高度非线性的 joint response surface 和连续 interaction。更准确的限制是:给定 modifier \(U\) 后,经典 VCM 通常对预先指定的 \(X\) 保持线性或加性结构。 这正是它节省样本并保持 coefficient interpretation 的来源,也使它不适合直接承担图像、文本等需要自动学习高阶 representation 的任务。
可以先用 basis、tree 或 deep encoder 得到 \(h(X)\),再学习 varying coefficients;但此时 coefficient 对原始变量的直接含义会减弱,模型也逐步离开经典 VCM 的“纯粹”形态。
Kernel、spline 和 GP 通常假定相邻 modifier values 具有相似 response。若真实变化是 hard threshold、稀有 subgroup 或结构突变,平滑模型会产生 bias;此时 tree、mixture 或 change-point 模型更合适。
局部模型在 modifier support 的边缘只有单侧、少量邻居。原始 VCM 的 survival example 已展示 tail coefficient 对少数 observations 很敏感。对于 dose-response,这一问题转化为 positivity: 若某类人几乎不接受某个 dose,就没有足够数据支撑该处的个体曲线。
观测到不同 \(A\) 与 \(Y\) 的关系随 \(X\) 变化,不代表 treatment effect 随 \(X\) 变化。 Unmeasured confounding、selection、post-treatment modifiers 和 measurement error 都可能制造 伪异质性。连续 treatment 还要求每个 relevant \((x,a)\) 附近有足够 support。
改变 feature scale、basis、link function 或加入相关 covariates 都可能改变局部 coefficients。 因此“unit 的 coefficient vector”并不天然等于“unit 的物理机制”。Coefficient curve 是模型内 解释对象,而不是无条件可识别的世界属性。
如果新 unit 没有 repeated outcomes,也没有信息充分的 descriptors,subject-specific curve 只能退回 population average。Neural function generator 并没有消除这个信息边界,只是把跨 unit prior 学得更灵活。
普通 prediction 只需比较 \(\hat Y_i\) 与 \(Y_i\)。完整 response function 评估需要在多个 query points 上观察同一 unit,但现实中通常做不到;因果问题还受到 fundamental problem of causal inference 的限制。因此很多论文只能评估 factual loss、semi-synthetic integrated error、policy value 或 uncertainty coverage 的某个投影。
SCIGAN 明确指出其 GAN 至少需要数千个训练样本。深度 individualized-response 方法还容易出现 优化不稳定、overconfident extrapolation 与 function uncertainty 未校准的问题。
首先,问题的前提需要修正:核心思想已经成为主流,只是术语没有。
| VCM 中的思想 | 在其他社区中的名字 |
|---|---|
| coefficient 随 context 变化 | smooth interaction、GAM、conditional parameterization |
| group/subject-specific coefficients | random slopes、mixed effects、hierarchical Bayes |
| 局部关系随空间变化 | local models、GWR、spatially varying coefficients |
| 不同区域使用不同参数 | model-based/linear trees、mixture of experts;普通 RF/GBDT 是更宽松的分区类比 |
| treatment effect 随 unit features 变化 | CATE、causal forest、HTE |
| 参数由 context 生成 | Hypernetwork、conditional computation |
| 从少量 evidence 推断一条函数 | meta-learning、Neural Process |
树模型确实解释了 VCM 思想为何被主流 ML 吸收,但不能简单说“随机森林就是变系数模型”。普通 regression tree 通常给每个 leaf 一个常数预测,标准 RF/GBDT 也不显式区分 predictor \(X\) 与 modifier \(U\),更没有可直接阅读的 \(\beta_j(U)\)。真正结构上接近 VCM 的是 leaf 内拟合参数模型的 model-based/linear trees,以及直接用 boosted trees 表示 coefficient functions 的 tree-boosted VCM。 树方法的优势在于自动选择 split 和高维交互,而代价是平滑 coefficient curve 与显式科学语义变弱。
VCM 术语本身没有统治通用 ML,主要有六个原因。
因此,VCM 没有失败;它更像一组被不同领域分别吸收的设计原则。
可以把 VCM 写成一个退化的 unit-selection law:
\[ q(du\mid O_i)=\delta_{\beta(Z_i)}(du), \]
\[ R_i(\cdot\mid x) =R_\theta\{\cdot\mid x,U_i=\beta(Z_i)\}. \]
它具有三个限制:selection law 退化成 point mass;unit state 完全由 observed modifier 决定;response 对 explicit input 保持线性或广义线性。
当 \(\mathcal O_i\) 包含同一 subject 的多个 \((X_{it},Y_{it})\) 时,可以推断
\[ p(G_i\mid\mathcal O_i) \]
并通过 population prior 做 shrinkage。这比 VCM 更接近 literal subject-specific curve,但它的 主要信息来源是 repeated outcomes,不是 one-shot evidence。
当 explicit input 是 treatment \(A\),还必须声明:
不满足这些条件时,学到的是 treatment-indexed predictor,而不是 causal response function。
一个比“每个 unit 有自己的函数”更强、也更可检验的 operational contract,首先要把 world-side outcome computation 与 learner-side prediction 分开。
第一层:world-side token selection 与 outcome generation。 Model-level \(U\) 选择 token; 在声明的 context 与 time scale 内,一次 realization \(U=u^\star\) 是该 token 的 fixed embedding。 面对 predictors/query \(x\) 与 event noise \(E=e\),实际 outcome 是
\[ Y_{u^\star}(x)=f_\theta(x,e;u^\star). \]
样本编号不参与这次计算。Token–embedding injectivity 可以作为 identity-encoding assumption, 但 one-shot observation 不识别 \(u^\star\) 的唯一坐标,也不排除坐标重参数化。
第二层:predictors 作为 factual evidence 做 unit abduction。 Learner 看到 \(X=x\) 时, 首先把它记作 \(x^F\),用来推断这个实际 token 可能对应什么 embedding。Abduction 有三种基本 形式:
\[ \widehat u=a_\phi(x^F) \qquad\text{(point)}, \]
\[ q_\phi(u\mid x^F) =\mathcal N\!\left(u;\mu_\phi(x^F),\Sigma_\phi(x^F)\right) \qquad\text{(Gaussian)}, \]
\[ q_\phi(u\mid x^F) =\prod_j\operatorname{Cauchy}\!\left(u_j;m_{\phi,j}(x^F), \gamma_{\phi,j}(x^F)\right) \qquad\text{(Cauchy)}. \]
Point mode 做最强的 recognition commitment;Gaussian 把 ambiguity 表达成围绕中心的 local、 finite-variance uncertainty;Cauchy 有 location 与 scale,但没有 finite mean 或 variance,因而用 polynomial tails 保留远离“典型个体”的 candidate mechanisms。三者都描述 learner 对同一 actual \(u^\star\) 的 epistemic abduction result,不是每次 sample 都创造一个新的 physical unit。 Cauchy 的 full support 也不保证任何 outcome 都能由任何 unit 生成;outcome support 仍由 \(f_\theta\) 与 \(E\) 决定。
第三层:candidate-conditioned generation。 对每个 candidate \(u\),learner 调用同一个共享 generator \(f_\theta(x^Q,E;u)\)。为读者友好,正文把 event noise 诱导的预测写作
\[ p_\theta(\cdot\mid x^Q,u) :=\mathcal L_E\{f_\theta(x^Q,E;u)\}. \]
这不是另一个模型;\(p_\theta\) 只是 \(f_\theta\) 与 event noise 诱导的 outcome distribution。 不同 embeddings 仍可能在全部目标 queries 上产生同一 predictive map,因此 unit identity 的 可区分性与 response equivalence 是两件事。严格的 measure-theoretic kernel 记号可以在理论附录 需要时恢复,但不应遮住 generator ontology。
第四层:看到 \(X=x\) 后的 ordinary prediction。 Factual prediction 中,同一个数值 \(x\) 第二次以 query 身份出现,即 \(x^Q=x\)。Distributional abduction 的最终预测是
\[ p_{\phi,\theta}(y\mid x^F,x^Q) =\int_{\mathcal U}p_\theta(y\mid x^Q,u)q_\phi(u\mid x^F)\,du. \]
等价的 sampling procedure 是
\[ \widetilde U\sim q_\phi(\cdot\mid x^F),\qquad E\sim p_E,\qquad \widetilde Y=f_\theta(x^Q,E;\widetilde U). \]
Tilde 表示 computational candidate,不是 world-side identity redraw。Point mode 则直接使用 \(f_\theta(x^Q,E;a_\phi(x^F))\)。普通 prediction 返回 outcome distribution 或其 point summary, 不返回一个 physical unit,也不必返回一条 sampled function。
第五层:same-token counterfactual linkage。 若 factual predictors 是 \(x\),查询同一 token 在 新输入 \(x'\) 下的 outcome,必须固定从 \(x^F=x\) 得到的 point 或 distributional abduction result:
\[ p_{\phi,\theta}(y\mid x,x') =\int p_\theta(y\mid x',u)q_\phi(u\mid x)\,du. \]
不能改成 \(q_\phi(u\mid x')\),因为这会用 alternative query 重新识别 token,可能把 unit 一起 换掉。Fixed abduction + changed query 给出 Layer 3 的 same-token linkage;它本身仍不提供 intervention identification 或 strict singular causal attribution。
当前 tractable default 让 neural abduction operator 输出 Cauchy location/scale,并让 generator 对 \(x\) 保持 linear 或 bilinear。这是可替换的 inductive bias,不是上述 ontology 的必要条件。
在这一表述下,可以把研究贡献界定为:
We separate world-side token outcome generation from learner-side unit recognition, allow point, Gaussian, or Cauchy abduction from factual predictors, and preserve same-token counterfactuals by fixing factual abduction while changing only the mechanism query.
这一定义应坚持八条边界:
未来理论不应把 token–embedding injectivity 的建模假设误写成 actual \(u^\star\) 的数据 identification,也不应默认恢复唯一的真实 unit mechanism。更诚实的目标是描述 candidate representations、response-equivalence classes、partial identification region,或明确给出在何种 shared-family assumptions 下可以恢复 target contrasts。即使 actual unit representations 不同,它们也可能在目标 query domain 上满足 \(u\sim_R v\)。
至少需要三类 benchmark:
这三类证据必须分开报告,不能用 semi-synthetic curve recovery 代替真实因果验证。
候选指标包括 integrated log score、integrated CRPS、query-wise calibration、simultaneous coverage、finite-contrast error、policy regret,以及在 support 边界外拒绝预测的质量。
过强 pooling 会退化为 population regression;过弱 pooling 会造成每个 unit 的函数不可学习。 需要研究 hierarchical priors、prototype mixtures、low-rank function manifolds、neural stochastic processes 与 sparse mechanism libraries 之间的可识别性和样本复杂度。
现实 unit 会随时间改变。未来模型需要同时推断稳定 \(U_i\) 与动态 \(S_{it}\),并回答:何时 trajectory 的改变来自干预,何时来自自然 state transition,何时只是 event noise。
Hypernetwork 可以生成函数,但不保证反事实正确;causal estimators 可以识别某些 contrasts, 却未必生成完整 outcome distribution。一个成熟框架需要把 design/identification、unit abduction、 mechanism evaluation、uncertainty reduction 和 falsifiable evaluation 连成一条证据链。
围绕 unit-specific response function,学术界并非没有前人,而是已经形成一棵跨越统计学与机器 学习的大树:random-effects 提供个体参数的层级推断;VCM 把 observed modifier 映射为局部 coefficient functions;functional mixed effects 把 subject-specific deviation 扩展为随机函数; GWR、functional-coefficient time series 与 model-based trees 处理空间、状态与分段异质性; causal forest、DRNet、SCIGAN 与 VCNet 学习 heterogeneous treatment/dose response;Hypernetwork 和 Neural Process 则把 function generation 推向通用高维任务。
这棵树最重要的共同原则是:
\[ \boxed{ \text{不要求 units 共享同一条 response function;要求它们共享可学习的函数生成规律。} } \]
它没有形成统一范式,主要不是因为思想无效,而是因为各社区拥有不同的 unit、evidence、query、 estimand 与验证方式。真正值得继续提出的统一问题,是如何在有限 unit evidence 下,把 world-side \(U=u^\star\) 的 token outcome generation、由 factual predictors 得到的 point/Gaussian/Cauchy abduction、candidate-conditioned generator evaluation 与最终 outcome prediction 分开;same-token query 固定 factual abduction,只改变 mechanism query。同时必须诚实说明:token–embedding injectivity 是建模假设而非 one-shot identification,不同 embeddings 可以产生相同 predictive behavior,Cauchy heavy tails 不等于 unrestricted outcome support;只有额外的 design 与 identification 条件才能进一步获得 causal 或 mechanism interpretation。
完整 BibTeX 见 references.bib。下面列出本文主干文献。
Versions & reproducibility
中文版服务阅读、批注与内部协作;英文版计划用于后续 arXiv 投稿,但当前只有 workspace seed,尚未形成 submission-ready manuscript。
内嵌中文字体 PDF、canonical Markdown、BibTeX 文献库与可复现 XeLaTeX source。
Working title 与 abstract seed 已保留;full English manuscript 尚未完成,不能表述为已经投稿或可直接提交。
中文 source package 用于复现当前阅读版,不是 arXiv submission package。
Review loop
请优先指出:缺失的直接先驱、证据等级标错、VCM 与 one-shot target 的边界不清,或者某个“unit-specific”方法其实只学习了条件人群平均。