01 · encoder outputAbduction：由 \(x_i\) 推断同一个实际 token
一般可输出 point、Gaussian 或 Cauchy。本文的 Cauchy encoder 输出 location 与 positive scale；非退化 Cauchy 没有 finite mean/variance，重尾也不代表任意 outcome 可生成：
\[m_i=m_\phi(x_i),\qquad \gamma_i=\operatorname{softplus}(g_\phi(x_i))+\gamma_{\min}.\]
采用 factorized Cauchy abduction family：
\[q_\phi(u\mid x_i)=\prod_{j=1}^{d}\operatorname{Cauchy}\!\left(u_j;m_{ij},\gamma_{ij}\right).\]
本步输出对同一 \(u^\star\) 的 \(m_i\in\mathbb R^d\), \(\gamma_i\in\mathbb R_{+}^{d}\)
02 · potential-outcome mechanism固定 token 定义 \(Y_u(t)\)，再说明观察到什么
对任意 treatment query \(t\in\{0,1\}\)，定义 arm-specific intercept 与 weights：
\[c_t=a_0+t b_0,\qquad w_t=a+t b.\]
Potential outcome mechanism 是：
\[Y_u(t)=f_\theta(t,E;u)=c_t+w_t^{\top}u+\sigma_tE_t,\qquad E_t\sim\operatorname{Cauchy}(0,1).\]
但训练数据只暴露 factual realization：
\[Y^{(i),\mathrm{obs}}=Y_{u^{(i)}}(T^{(i)}).\]
这是关键语义边界：先由 factual \(x_i\) 得到一次 abduction result；两个 treatment queries 固定它，不能用 alternative \(t\) 重新识别 unit。数据只观察其中一个 query 的 realization。
03 · analytic reductionReduction：积分 learner 与 event uncertainty
选择 Cauchy family 的计算收益在这里显现：candidate embedding 与 event noise 的仿射组合仍是 Cauchy，因此无需 Monte Carlo sampling：
\[Y(t)\mid X^{(i)}=x_i\sim\operatorname{Cauchy}\!\left(m_t(x_i),s_t(x_i)\right).\]
本步输出两个闭式 marginal predictive distributions；训练时再索引 factual arm \(t_i\)
04 · factual densityLikelihood：在观测 \(y_i\) 处求密度
\[p_{\phi,\theta}(y_i^{\mathrm{obs}}\mid x_i,t_i)=\frac{1}{\pi s_{t_i}(x_i)}\left[1+\left(\frac{y_i^{\mathrm{obs}}-m_{t_i}(x_i)}{s_{t_i}(x_i)}\right)^2\right]^{-1}.\]
实际 forward 不采样具体 candidate \(u\) 或 \(E_t\)；它直接计算闭式的 \(m_{t_i}(x_i)\) 与 \(s_{t_i}(x_i)\)。
05 · optimization targetLoss：factual Cauchy negative log-likelihood
\[\ell_i(\phi,\theta)=\log\!\bigl(\pi s_{t_i}(x_i)\bigr)+\log\!\left[1+\left(\frac{y_i^{\mathrm{obs}}-m_{t_i}(x_i)}{s_{t_i}(x_i)}\right)^2\right].\]
一个 mini-batch \(\mathcal B\) 的训练目标为：
\[\mathcal L_{\mathcal B}(\phi,\theta)=\frac{\sum_{i\in\mathcal B}\omega_i\,\ell_i(\phi,\theta)}{\sum_{i\in\mathcal B}\omega_i}.\]
实验中 \(\omega_i=1\)。AdamW weight decay 与 gradient clipping 是 optimizer choices，不是这个解析 likelihood 中额外假设的 penalty。为简洁记 \(m_i=m_{t_i}(x_i)\)、\(s_i=s_{t_i}(x_i)\)、\(y_i=y_i^{\mathrm{obs}}\)。单个 factual loss 会同时更新 \(\phi\)、\(a\)、\(b\)、\(\sigma_0\) 与 \(\sigma_1\)。核心导数是：
\[\frac{\partial\ell_i}{\partial m_i}=\frac{2(m_i-y_i)}{s_i^2+(y_i-m_i)^2},\qquad
\frac{\partial\ell_i}{\partial s_i}=\frac{s_i^2-(y_i-m_i)^2}{s_i\left[s_i^2+(y_i-m_i)^2\right]}.\]
TRAINING PATH\((x_i,t_i,y_i^{\mathrm{obs}})\rightarrow(m_i,\gamma_i)\rightarrow(m_{t_i},s_{t_i})\rightarrow\ell_i\)
06 · effect readout我们关注的不是 realized \(\Delta_i\)，而是 location contrast
训练完成后，对同一个 \(x\) 同时读取两个 marginal locations：
\[\widehat\Delta_{\mathrm{loc}}(x)=\widehat m_1(x)-\widehat m_0(x)=\widehat b_0+\widehat b^{\top}m_{\widehat\phi}(x).\]
在主要 nonlinear synthetic DGP 中：
\[Y_{u^{(i)}}(t)=g^\star(X^{(i)})+t\tau^\star(X^{(i)})+\epsilon_t^{(i)},\qquad \Delta_{u^{(i)}}^{\mathrm{realized}}=\tau^\star(X^{(i)})+\epsilon_1^{(i)}-\epsilon_0^{(i)}.\]
实验用于 effect MedAE 的 oracle target 是 response-location contrast：
\[\Delta_{\mathrm{loc}}^\star(x)=m_1^\star(x)-m_0^\star(x)=\tau^\star(x),\]
评估对象\(\widehat\Delta_{\mathrm{loc}}(x)\) 对 \(\Delta_{\mathrm{loc}}^\star(x)\)
不是含 \(\epsilon_{i1}-\epsilon_{i0}\) 的 realized individual contrast
对象含义本页地位
\(Y_u(1)-Y_u(0)\)realized same-token contrast不是目标；含两臂噪声且不可同时观察
\(m_1(x)-m_0(x)\)response-location contrast当前模型读出与 synthetic oracle target
\(\mathbb E[Y(1)-Y(0)\mid X=x]\)conditional mean effect不与 Cauchy location contrast 混称；Cauchy mean 不存在