识别样本污染的关键,不是先看哪个版本转化更好,而是先确认分流是否真的随机。如果访客在进入实验前就已经带着不同意图、不同来源或不同设备特征,那么后续差异可能来自样本本身,而不是版本设计。一个可执行的动作是:在分流前记录来源、设备、登录状态和新老访客标识,再按这些维度回看各版本分布;若分布明显失衡,应先修正分流或分层,而不是继续比较转化率。
假设某次网络营销案例分析中,一个落地页做了A/B两个版本。上线三天后,A版转化率高于B版。团队原本准备直接放量A版,但复核时发现:A版来自品牌词的访客占比更高,B版来自信息流广告的访客占比更高。
这时不能直接得出A版更好的结论。品牌词访客通常已经知道品牌,信息流访客可能第一次接触,两组人的购买意图本来就不一样。版本差异和来源差异混在一起,就是样本污染的一种表现。
可执行动作是:把分流日志与来源字段关联,按来源分别看两版表现。如果同一来源下两版差异缩小甚至消失,说明原来的整体差异很可能由来源结构造成。这个结果会影响下一步:要么按来源分层后再比较,要么修正分流逻辑,让同一来源的访客更均匀地进入两版。
样本污染不一定发生在实验工具里,也可能发生在访客到达实验之前。常见情况包括:
判断时不要只看总量。总量接近不代表结构接近。应把分流前的关键字段拿出来,逐项比较各版本占比。若某个字段在两版之间差距明显,先把它当作可疑变量,而不是直接归因于版本。
一个稳妥的诊断顺序是:先确认分流机制,再确认样本结构,最后才比较结果指标。
这里要注意口径问题。第三方估算流量、平台报告和站内统计对同一批访客的归因可能不同。例如,平台可能把某次点击算作广告来源,站内统计可能因为跳转或标识丢失把它归为直接访问。因此,诊断时应尽量使用同一套日志口径,不要把不同来源的数字直接拼接成证据。
假设某次实验原始数据如下:A版整体转化率5%,B版整体转化率3%。团队准备停用B版。但按来源分层后:
整体差异来自来源结构:A版获得了更多品牌词访客,而不是A版设计更好。这个例子是假设的,数字只用于说明比较方法。实际诊断中,应使用可核查的分流日志和站内统计,而不是只依赖一个汇总转化率。
下一步动作是:修正分流,让品牌词和信息流访客在两版中比例接近;或者按来源分别设置实验,分别判断版本效果。若不修正就放量A版,可能把预算投向一个并不更优的版本。
如果各版本在来源、设备、新老访客等关键维度上分布接近,且分流机制可核查,那么可以继续比较结果指标。此时若差异稳定,版本影响更值得关注。
如果关键维度明显失衡,应先停下结论,处理样本污染。处理方式包括:按维度分层分析、修正分流规则、延长观察时间,或重新设计实验。不要用“数据量还不够”掩盖结构问题;样本量增加不会自动修复来源比例失衡。
另外,请求量、抓取量或某项统计归零,不能单独证明分流正确。它也可能是埋点缺失、过滤规则变化、跳转丢失或日志延迟造成的。应回到分流日志和站内统计,确认访客是否真的被随机分配,再决定下一步。
最终判断标准是:先让各版本在关键特征上可比,再比较结果。若不可比,任何转化率差异都只能视为待验证线索,而不是可以直接放量的结论。