文章目录

  • 标准化流程
  • 平行假设检验
  • 效果评估
  • 安慰剂检验

标准化流程

此前的文章介绍了双重差分法(difference-in-differences,DID)的原理,并说明了其是算法策略效果评估的有效方案之一。本文将主要描述DID的标准化流程,以及如何使用stata代码实现全流程。

先上标准化流程的全景图,然后再逐一理解。作为对比,此前文章里的代码只是实现了第二层中的“基本DID”模块。

在标准化流程中,一共包含三个模块:第一个模块是平行假设检验,主要任务是确保对照组和实验组在算法策略干预前,指标的变化趋势相同,这是DID的最基本前提;第二个模块是效果评估,旨在通过DID的演算,量化算法策略对指标的影响和显著性水平;第三个模块是安慰剂检验,其目标是检验效果评估模型中的结果是否受到了其他因素的影响。

安慰剂检验,这个名字乍一看,挺奇怪的,稍微解释一下。安慰剂多用于医学,通常是指病人虽然获得无效的治疗,但却让其 “预料” 或 “相信” 治疗有效,而让病患症状得到舒缓的现象。此处使用主要是为了避免实验组出现安慰剂效应,影响实验结果。

平行假设检验

绘制趋势图就是把对照组和实验组指标的历史变化趋势绘制出来,然后根据个人经验判断两者的变化趋势是否相同。该方法较为主观,不符合理工科的严谨习惯,因此本节主要介绍事件研究法。

先回顾一下DID的基本模型

Y it =α+δ D i+λ T t+β( D i× T t)+ ϵ it Y_{it}=\alpha+\delta D_i+\lambda T_t+\beta(D_i \times T_t)+\epsilon_{it} Yit=α+δDi+λTt+β(Di×Tt)+ϵit
为了做平行假设检验,需要将模型调整为

Y it =α+δ D i+λ T t+β( D i× T t)+∑ μi⋅ y e a ri× Di + ϵ it Y_{it}=\alpha+\delta D_i+\lambda T_t+\beta(D_i \times T_t)+\sum{\mu_i·year_i \times D_i}+\epsilon_{it} Yit=α+δDi+λTt+β(Di×Tt)+μiyeari×Di+ϵit
相比基本模型,该项多了 ∑μ i⋅yea r i× D i \sum{\mu_i·year_i \times D_i}μiyeari×Di。此处, y e a ri year_iyeari为时间虚拟变量,当年观测年为1,其他年份为0; μi \mu_iμi是对应的系数值。

做平行假设检验,主要看 μi \mu_iμi是否显著不为0:如果至少一个值显著不为0,那么认为不满足平行假设检验;反之,则满足平行假设检验。

本文使用普林斯顿大学构造的DID数据:A、B、C、D、E、F和G是非常相似的7个地区,E、F和G三地在1994年实行了一项新政策,而A、B、C和D则没有实行,目标是评估新政策对指标y的影响。

以下为政策实施前的数据:

以下代码可以实现对 μi \mu_iμi的计算,并且绘制平行检验的结果。

gen period = (year>=1994) & !missing(year) // 生成时间虚拟变量,1994年前为0,反之为1gen treat = (country>4) & !missing(country) // 生成区域的虚拟变量,干预为1,反之为0gen did = period * treat // 生成交叉项// 如果i = 1(1)4,后续绘图时,pre_i的顺序会不一致gen policy = year - 1994forvalues i = 4(-1)1{gen pre_`i' = (policy == -`i' & treat == 1)}// 回归计算xtreg y pre_*, fe r// 绘制曲线图est sto regcoefplot reg, keep(pre_*) vertical recast(connect) yline(0)

先看一下 μi \mu_iμi的结算结果:分别对应pre_4、pre_3和pre_2行、P>|t|列的数值,即0.442,0.369和0.602。这三个值均大于0.05,所以满足平行假设检验。

Fixed-effects (within) regression Number of obs = 28Group variable: country Number of groups=7R-sq: Obs per group: within= 0.0673 min =4 between = 0.2121 avg =4.0 overall = 0.0118 max =4F(2,6)=.corr(u_i, Xb)= -0.5136Prob > F=.(Std. Err. adjusted for 7 clusters in country)------------------------------------------------------------------------------ | Robust y |Coef. Std. Err.tP>|t| [95% Conf. Interval]-------------+---------------------------------------------------------------- pre_4 |-2.12e+09 2.58e+09-0.82 0.442-8.44e+094.19e+09 pre_3 |-2.02e+09 2.08e+09-0.97 0.369-7.11e+093.07e+09 pre_2 |-1.19e+09 2.15e+09-0.55 0.602-6.45e+094.08e+09 pre_1 |0(omitted) _cons | 1.69e+09 7.04e+08 2.40 0.053-3.23e+073.41e+09-------------+---------------------------------------------------------------- sigma_u |2.472e+09 sigma_e |2.588e+09 rho | .4771219 (fraction of variance due to u_i)------------------------------------------------------------------------------

我们还可以看一下pre_4、pre_3和pre_2行,[95% Conf. Interval]两列的数据,下图绘制了这两列数据的范围。显然,都包含了0值,即通过了平行假设检验。

此处做一下额外说明:本节只使用政策干预前的数据做平行假设检验,而很多文献则是把干预前和干预后数据放在一起做平行假设检验,但是个人认为后者是不合理的,主要原因是:我们在实际操作时,需要先通过平行假设检验找出合适的对照组和实验组,然后再去做实验,此时并没有干预后数据。

接下来搞点事情:调整treat值,和之前恰好相反。然后再重新做一遍平行假设检验。

原理上来说,只是互换了实验组和对照组的身份,平行假设检验的结果应该是不变的。

gen period = (year>=1994) & !missing(year) gen treat = (country<=4) & !missing(country) // treat的数值有变化gen did = period * treat gen policy = year - 1994forvalues i = 4(-1)1{gen pre_`i' = (policy == -`i' & treat == 1)}xtreg y pre_*, fe rest sto regcoefplot reg, keep(pre_*) vertical recast(connect) yline(0)

但从计算结果上可以发现,pre2行对应的P>|t|值为0.006,小于0.05;[95% Conf. Interval]也已不包含0。即不再满足平行假设检验。

这和我们的直观认知是不符的。但是具体原因暂时并未探查到,如遇大神,望能不吝赐教。

Fixed-effects (within) regression Number of obs = 28Group variable: country Number of groups=7R-sq: Obs per group: within= 0.3044 min =4 between = 0.2121 avg =4.0 overall = 0.2536 max =4F(3,6)=53.56corr(u_i, Xb)= -0.1823Prob > F= 0.0001(Std. Err. adjusted for 7 clusters in country)------------------------------------------------------------------------------ | Robust y |Coef. Std. Err.tP>|t| [95% Conf. Interval]-------------+---------------------------------------------------------------- pre_4 |-4.00e+09 1.70e+09-2.36 0.057-8.16e+091.56e+08 pre_3 |-3.00e+09 1.33e+09-2.26 0.064-6.25e+092.47e+08 pre_2 |-3.58e+09 8.62e+08-4.15 0.006-5.68e+09 -1.47e+09 pre_1 |0(omitted) _cons | 2.63e+09 3.44e+08 7.64 0.000 1.79e+093.47e+09-------------+---------------------------------------------------------------- sigma_u |1.888e+09 sigma_e |2.235e+09 rho |.41645141 (fraction of variance due to u_i)------------------------------------------------------------------------------

效果评估

以下为政策实施后的数据。

文章中已经实现过基本DID,因此本节直接给出代码。相比之前代码,DID回归步骤使用reg方式替代了diff方式。两种方式都可以,不过reg更常用。

gen period = (year>=1994) & !missing(year) // 生成时间虚拟变量,1994年前为0,反之为1gen treat = (country>4) & !missing(country) // 生成区域的虚拟变量,干预为1,反之为0gen did = period * treat // 生成交叉项reg y period treat did, r//DID回归:reg方式

从结果看,did行、P>|t|列的值( β\betaβ)为0.088,大于0.05,即政策效果不显著。

Linear regression Number of obs = 70F(3, 66)= 2.17Prob > F= 0.0998R-squared = 0.0827Root MSE= 3.0e+09------------------------------------------------------------------------------ | Robust y |Coef. Std. Err.tP>|t| [95% Conf. Interval]-------------+----------------------------------------------------------------period | 2.29e+09 9.00e+08 2.54 0.013 4.92e+084.09e+09 treat | 1.78e+09 1.05e+09 1.70 0.094-3.11e+083.86e+09 did |-2.52e+09 1.45e+09-1.73 0.088-5.42e+093.81e+08 _cons | 3.58e+08 7.61e+08 0.47 0.640-1.16e+091.88e+09------------------------------------------------------------------------------

除了以上的基本DID,还可以在模型中添加其他控制变量,例如:x1-x3、opinion和country

reg y period treat did x1-x3 i.opinion i.country, r

此时, β\betaβ值变为0.01,即政策效果变得显著。查看控制变量的系数后可知,变量 x1 x_1x1的交叉项系数也为0.01,即对政策影响较大。

Linear regression Number of obs = 70F(14, 55) = 3.32Prob > F= 0.0007R-squared = 0.3800Root MSE= 2.7e+09------------------------------------------------------------------------------ | Robust y |Coef. Std. Err.tP>|t| [95% Conf. Interval]-------------+----------------------------------------------------------------period | 1.63e+09 8.16e+08 2.00 0.050-970567.33.27e+09 treat |-5.13e+08 2.51e+09-0.20 0.839-5.54e+094.52e+09 did |-3.67e+09 1.37e+09-2.67 0.010-6.42e+09 -9.13e+08x1 | 2.86e+09 1.07e+09 2.67 0.010 7.12e+085.00e+09x2 |3021459 2.43e+09 0.00 0.999-4.88e+094.88e+09x3 | 3.17e+08 3.09e+08 1.03 0.310-3.03e+089.37e+08 | opinion |Agree|-1.08e+09 1.27e+09-0.86 0.396-3.63e+091.46e+09Disag| 1.10e+09 7.85e+08 1.40 0.167-4.73e+082.67e+09Str disag| 7.90e+08 7.93e+08 1.00 0.324-7.99e+082.38e+09 | country |B|-1.10e+09 5.72e+09-0.19 0.848-1.26e+101.04e+10C|-2.02e+09 1.82e+09-1.11 0.270-5.67e+091.62e+09D| 2.89e+09 6.28e+09 0.46 0.647-9.69e+091.55e+10E| 2.07e+09 7.97e+09 0.26 0.797-1.39e+101.80e+10F| 4.79e+09 3.40e+09 1.41 0.164-2.02e+091.16e+10G|0(omitted) | _cons |-1.26e+09 2.10e+09-0.60 0.552-5.48e+092.96e+09------------------------------------------------------------------------------

安慰剂检验

先看第一种方法:改变事件发生时间。该方法假设政策干预时间提前,重新判断政策虚拟变量的系数是否显著。如果不显著,则可以说明原政策效果的稳健性。

以下代码中,假设政策发生事件变为1992年:

gen period = (year>=1992) & !missing(year) // 1994->1992gen treat = (country>4) & !missing(country)gen did = period * treatreg y period treat did x1-x3 i.opinion i.country, r

β\betaβ值变为0.107<0.05,即政策效果不显著。这个结果是比较理想的,因为这表明:除去政策影响后,指标变化是不显著的。

Linear regression Number of obs = 70F(14, 55) = 2.89Prob > F= 0.0025R-squared = 0.3464Root MSE= 2.7e+09------------------------------------------------------------------------------ | Robust y |Coef. Std. Err.tP>|t| [95% Conf. Interval]-------------+----------------------------------------------------------------period | 2.21e+09 9.84e+08 2.25 0.029 2.40e+084.18e+09 treat | 7.49e+08 2.79e+09 0.27 0.789-4.84e+096.33e+09 did |-2.06e+09 1.25e+09-1.64 0.107-4.57e+094.58e+08x1 | 1.59e+09 9.57e+08 1.66 0.102-3.27e+083.51e+09x2 | 7.80e+08 2.80e+09 0.28 0.781-4.82e+096.38e+09x3 | 1.48e+08 2.83e+08 0.52 0.604-4.20e+087.16e+08 | opinion |Agree|-9.49e+08 1.30e+09-0.73 0.468-3.55e+091.66e+09Disag| 9.84e+08 7.85e+08 1.25 0.215-5.89e+082.56e+09Str disag| 7.90e+08 7.91e+08 1.00 0.322-7.95e+082.38e+09 | country |B|-2.98e+09 6.55e+09-0.45 0.651-1.61e+101.02e+10C|-6.99e+08 1.95e+09-0.36 0.721-4.60e+093.21e+09D| 5.84e+08 7.13e+09 0.08 0.935-1.37e+101.49e+10E|-1.69e+09 9.19e+09-0.18 0.855-2.01e+101.67e+10F| 2.92e+09 3.59e+09 0.81 0.421-4.29e+091.01e+10G|0(omitted) | _cons |-7.66e+08 2.48e+09-0.31 0.759-5.73e+094.20e+09------------------------------------------------------------------------------

但如果我们仅将政策发生时间提前一年:

gen period = (year>=1993) & !missing(year) // 1994->1993gen treat = (country>4) & !missing(country)gen did = period * treatreg y period treat did x1-x3 i.opinion i.country, r

结果为: β = 0.015\beta=0.015β=0.015,政策效果依然显著。此种情况下,不再能证明原政策效果的稳健性。出现该现状的原因可能是时间提前过少,导致1993年的效果被1994-1999的效果掩盖了。为了避免该尴尬局面的出现,更推荐使用即将介绍的第二种方法:随机化实验组。

Linear regression Number of obs = 70F(14, 55) = 3.47Prob > F= 0.0005R-squared = 0.3826Root MSE= 2.7e+09------------------------------------------------------------------------------ | Robust y |Coef. Std. Err.tP>|t| [95% Conf. Interval]-------------+----------------------------------------------------------------period | 2.57e+09 8.35e+08 3.08 0.003 9.00e+084.25e+09 treat | 1.18e+09 2.67e+09 0.44 0.662-4.18e+096.54e+09 did |-2.94e+09 1.17e+09-2.52 0.015-5.27e+09 -6.00e+08x1 | 1.60e+09 9.21e+08 1.73 0.088-2.48e+083.44e+09x2 | 9.67e+08 2.67e+09 0.36 0.719-4.38e+096.32e+09x3 | 1.92e+08 2.91e+08 0.66 0.511-3.91e+087.76e+08 | opinion |Agree|-6.80e+08 1.33e+09-0.51 0.612-3.35e+091.99e+09Disag| 9.45e+08 7.39e+08 1.28 0.206-5.35e+082.43e+09Str disag| 6.35e+08 7.55e+08 0.84 0.404-8.77e+082.15e+09 | country |B|-3.44e+09 6.24e+09-0.55 0.583-1.59e+109.06e+09C|-7.09e+08 1.83e+09-0.39 0.700-4.38e+092.96e+09D| 1.14e+08 6.71e+09 0.02 0.987-1.33e+101.36e+10E|-2.18e+09 8.76e+09-0.25 0.804-1.97e+101.54e+10F| 2.77e+09 3.40e+09 0.81 0.419-4.05e+099.59e+09G|0(omitted) | _cons |-6.54e+08 2.25e+09-0.29 0.772-5.16e+093.85e+09------------------------------------------------------------------------------

在随机化实验组的方法中,一般是随机选取个体作为处理组,重复500次或者1000次,看看“伪政策虚拟变量”的系数是否显著。如果不显著,可以说明原政策效果的稳健性。

以下是实现代码,因为我自己也不太理解每一步的逻辑,只需要知道该代码能把图绘制出来即可,哈哈~

cap erase "simulations.dta"permute did beta = _b[did] se = _se[did] df = e(df_r), reps(500) seed(2)///saving("simulations.dta"):reg y did, vce(robust)use "simulations.dta", cleargen t_value = beta / segen p_value = 2 * ttail(df, abs(beta/se))dpplot beta, xtitle("Estimator", size(*0.8)) xlabel(, format(%4.3f) labsize(small))ytitle("Density", size(*0.8)) ylabel(, nogrid format(%4.3f) labsize(small))note("")caption("")graphregion(fcolor(white))

以下是 β\betaβ的统计图。从图上可以看出, β\betaβ值大部分都都在0附近,平均值为 − 3.7 × 1 07 -3.7\times10^73.7×107。回顾效果评估模块中的 β\betaβ计算结果,为 1 09 10^9109量级,即随机化的实验组相比原实验组, β\betaβ降低了2个数量级,政策效果不再显著。