小区门口新开了一家牛肉面馆,老板阿强每天最纠结的事就是:客人是真的爱吃我的面,还是只是懒得换地方?直到一位做增长的老顾客告诉他一个听起来有点土、但据说很灵的方法——他只问了常客一句话:“如果以后再也吃不到我家这碗面了,你会怎样?” 这道题的答案,就是风靡硅谷的 Sean Ellis 测试。它不分析复杂的数据模型,不追踪炫酷的用户行为漏斗,只用一句普通得不能再普通的话,就试图称出产品在用户心里的重量:是“没它不行”,还是“有也行,没有也行”。 在这篇文章里,我们会跟着阿强一起,把这句问话拆开看:为什么是五个选项而不是十个?为什么只盯着“非常失望”?"40%"这条神奇的红线是从哪里来的?我们又该如何在 AI 创业中,用这个方法少走弯路、快速判断自己的产品配不配继续投入。

岗位关联

对 AI 创业者来说,Sean Ellis 测试是花一两天就能做完的 PMF 体检:在烧掉几个月研发成本之前,用一句问话确认方向是否值得继续。掌握它,等于给团队的“产品执念”装上了刹车片。

目录
  1. 可视化演示
  2. 测试源起
  3. 核心问题
  4. 评分标准
  5. 实操流程
  6. 行业适用
  7. 创业应用
  8. AI 应用场景
  9. Python 演示
  10. 常见误区
  11. 面试题

可视化演示

展示Sean Ellis问卷四选项投票分布、40%PMF阈值对比分析、以及Sean Ellis指标与留存率NPS等多维度交叉验证三种交互模式。

本节配有交互动效(进入视口后自动加载,约 3KB)。

Sean Ellis问卷结果分布 非常失望(VD)占比是PMF核心指标 四选项:VD/SD/ND/NU PMF = VD_count / total_responses VD占比超40%则达到产品市场匹配

测试源起

阿强在小区门口开牛肉面馆已经三个月了。每天中午翻台率不低,外卖单也没断过,但他心里始终悬着一块石头:“这些人到底是冲着我这碗面来的,还是因为整条街就我一家面馆?”他试过发优惠券、试过在微信群求好评,数据看起来都不错,可一旦优惠结束,客流就明显回落。阿强意识到,“有人来吃”和“离不开这碗面”是两回事。他需要的不是表扬,而是一面能照出真实需求的镜子。

镜子很快出现了。一位做增长顾问的老顾客听说阿强的困惑,给他讲了一个硅谷故事:Dropbox 早期增长负责人 Sean Ellis 在服务超过一百家创业公司时发现,那些最终跑出来的产品几乎都有一个共同特征——它们的核心用户在被问“如果不能再使用这个产品,你会不会很失望”时,会有超过 40% 的人斩钉截铁地回答“非常失望”。Sean Ellis 把这种产品与市场高度吻合的状态命名为 Product Market Fit,即“产品市场匹配(PMF)”:产品恰好命中了一群真实用户绕不开的痛点,用户不只是“用用看”,而是把它当成了生活或工作流程里不可拆掉的一块砖。

为什么这句话这么有穿透力?因为它绕开了所有虚荣指标。日活、下载量、好评率都可能被运营动作推高,但“失去它我会失望”这句回答,逼着用户替产品称了一次重量。阿强听得入了神,他终于明白,自己真正要问的从来不是“面好不好吃”,而是“这碗面在食客心里是否无可替代”。而这句话的答案,不是从好评区找出来的,是要亲口问出来的。

核心问题

阿强决定试一试。他熬夜设计了一个小卡片,本想列出十个问题:口味、分量、价格、服务态度……但那位顾问拦住了他:“不要贪多,Sean Ellis 的方法只有一道题。”于是卡片正面只剩下这句话:如果以后再也吃不到我家这碗牛肉面了,你会怎样?下面跟着五个选项:① 非常失望 ② 有点失望 ③ 无所谓 ④ 不太可能继续吃 ⑤ 已不再来吃了。

这五个选项不是随口排列的,它们构成了一条从“深度依赖”到“完全无感”的递进光谱。Sean Ellis 的洞察在于:真正有区分度的不是“满意 vs 不满意”,而是“非常失望 vs 有点失望”。“非常失望”意味着产品进入了用户的“必备清单”,失去它会带来真实的痛感;而“有点失望”只是觉得可惜,用户转头就能找到替代品。至于“无所谓”和更靠后的选项,说明产品在用户心中没有分量。因此,整张问卷只有一个数字值得被记住:选择“非常失望”的人数占比。

这个占比就是测试的核心结果,它被定义为非常失望人数除以有效样本数,再换算成百分比:

阿强把这张卡片用油印印了五十份,决定拿到店里去。他心想:“我倒要看看,这碗面到底在多少人心里扎下了根。”

PPMF=N非常失望N有效样本×100%\text{P}_{\text{PMF}} = \dfrac{N_{\text{非常失望}}}{N_{\text{有效样本}}} \times 100\%
这个公式的含义是:把“宁可失去也要留下”的用户占比算出来。它不是什么高深统计量,只是一碗面在食客心中的“不可替代率”。
  1. 统计分子——非常失望人数遍历所有有效问卷,只把选择了“非常失望”的用户数累加。注意,“有点失望”和“无所谓”都不能计入,这是整个测试分辨力的关键。
    N非常失望=选择选项1的问卷数量N_{\text{非常失望}} = \text{选择选项1的问卷数量}
  2. 统计分母——有效样本数先剔除胡乱填写、体验时长不足、明显答非所问的问卷,剩下的才算有效样本。分母不干净,分子再大也没有意义。
    N有效样本=回收问卷总数−无效问卷数N_{\text{有效样本}} = \text{回收问卷总数} - \text{无效问卷数}
  3. 换算为百分比把分子除以分母再乘以百分之百,得到的就是后面要拿去和 40% 红线比较的核心指标。
    PPMF=N非常失望N有效样本×100%\text{P}_{\text{PMF}} = \dfrac{N_{\text{非常失望}}}{N_{\text{有效样本}}} \times 100\%

评分标准

阿强很快就遇到了第二个问题:百分之多少算过关?他原本以为至少要 70% 的人说“非常失望”才算好,可那位顾问摇了摇头,告诉他一条经验红线——40%。

这个数字不是拍脑袋拍出来的,它来自 Sean Ellis 对上百家创业公司的历史数据的回看。他发现,那些“非常失望”比例低于 40% 的产品,即便早期有增长,后续也普遍出现用户流失、获客成本高企的疲态;而越过 40% 的产品,则更容易形成口碑传播和自然增长的正循环。换句话说,40% 不是“完美”的分界线,而是“健康”的分界线。就像一碗面馆,不需要全部食客都上瘾,但至少要有四成客人是“冲着这碗面来的”,店才立得住。

在实际判定中,我们还可以用置信区间来增强判断的稳健性。假设我们要写一个自动化判定规则,核心逻辑就是观测比例与 40% 的比较:

四十碗面里,至少十六位食客要说出“非常失望”,阿强这碗面才算过了及格线。他把这道算术题写在了收银台后面的小黑板上。

PMF状态={达成,p^≥0.40未达成,p^<0.40\text{PMF}_{状态} = \begin{cases} \text{达成}, & \hat{p} \ge 0.40 \\ \text{未达成}, & \hat{p} < 0.40 \end{cases}
对新手来说,可以把它想成体温计:超过 37.3℃ 算发烧,40% 就是 PMF 的“体温线”——不是越高越好,但低于这条线,就该警惕产品是不是还没焐热用户的心。
  1. 计算观测比例先用样本数据算出“非常失望”用户占比,这个带着小帽子的 $\hat{p}$ 是真实比例的估计值,就像用一碗面的味道去推测整锅汤的味道。
    p^=N非常失望N有效样本\hat{p} = \dfrac{N_{\text{非常失望}}}{N_{\text{有效样本}}}
  2. 判断达成分支当 $\hat{p}$ 大于等于 0.40 时,判定产品初步达到市场匹配,可以开始考虑加大投入、扩张渠道。
    p^≥0.40⇒PMF 达成\hat{p} \ge 0.40 \Rightarrow \text{PMF 达成}
  3. 判断未达成分支当 $\hat{p}$ 小于 0.40 时,说明核心需求还不够刚性,建议回到用户访谈和产品迭代,而不是急着烧钱推广。
    p^<0.40⇒PMF 未达成\hat{p} < 0.40 \Rightarrow \text{PMF 未达成}

实操流程

阿强准备正式开测了。他吸取了那位顾问的三个提醒:第一,不能只问正在店里吃面的人,那叫“幸存者偏差”,得把最近一个月来吃过、但已经不再来的客人也算进去,甚至可以通过外卖平台私信触达他们;第二,发放的时机选在用户“刚享受完核心价值”之后,比如刚吃完面、刚用 App 跑完一次完整任务,这时候的情绪记忆最真实;第三,样本量不能太少,至少要收到 40 份有效问卷,否则随便多一票或少一票,结果都可能剧烈抖动。

为什么要强调样本量?因为统计推断天然带有不确定性。即使我们测出“非常失望”比例正好等于 40%,这也只是基于有限样本的估计值,真实值可能更高也可能更低。我们可以用标准误差和 95% 置信区间来量化这种不确定性:标准误差衡量样本比例的波动幅度,置信区间则给出真实比例大概率的落点范围。

阿强选了周五晚高峰开始收发问卷,一周后回收了 53 份有效答卷。他攥着数据走近小黑板,准备写下那个决定面馆命运的数字。

SE=p^(1−p^)n,CI95%=p^±1.96×SE\text{SE} = \sqrt{\dfrac{\hat{p}(1-\hat{p})}{n}}, \qquad \text{CI}_{95\%} = \hat{p} \pm 1.96 \times \text{SE}
可以把它理解为“称体重误差”:你站在秤上读数是 70 公斤,但真实体重可能落在 69.5 到 70.5 之间。样本量越大,这个误差区间越窄,你对“过没过 40%”的判断就越有底气。
  1. 计算标准误差观测到的比例 $\hat{p}$ 偏离真实比例的程度,随样本量 $n$ 增大而缩小。好比问的人越多,得到的“口碑画像”越接近全体食客的真实态度。
    SE=0.4(1−0.4)n\text{SE} = \sqrt{\dfrac{0.4(1-0.4)}{n}}
  2. 构造 95% 置信区间用 $1.96$ 乘上标准误差,得到误差范围。真实比例有 95% 的概率落在这个区间内。
    CI95%=p^±1.96×SE\text{CI}_{95\%} = \hat{p} \pm 1.96 \times \text{SE}
  3. 结合判定规则使用区间下限都高于 40% 时,结论最稳;若区间跨越 40%,说明信息还不够,应继续收集样本再下判断。
    下限≥0.40⇒稳健通过\text{下限} \ge 0.40 \Rightarrow \text{稳健通过}

行业适用

阿强的测试结果很理想,他去隔壁奶茶店找老板小王分享经验。小王听了很兴奋,打算立刻照搬,阿强却犹豫了:“奶茶和牛肉面不一样,很多人喝奶茶只是图一时新鲜,换个新品就跑了,你得提高标准;而像对面那家做企业账务软件的,用户换系统要培训整个财务部,他们嘴上说'失望'的门槛自然更高,标准反而该放宽一些。”

这个直觉与 Sean Ellis 测试在实际应用中的行业差异完全吻合。对于 ToB 企业级软件,用户一旦深度嵌入工作流,切换成本极高,即便产品不是特别令人满意,用户也不敢轻易说“不用了”,因此“非常失望”的比例通常偏低,35% 可能就代表了很强粘性。对于 ToC 消费级应用,选择多、迁移成本低,用户态度更随意,40% 是一个更中肯的基准。而对于免费工具、小游戏这类“低门槛、低承诺”的产品,用户回答问卷时往往带着新鲜感,比例容易虚高,需要更严格的标准——有时要 50% 以上才算真正立得住。

在实际落地时,我们可以把“基准线”看成可以微调的参数:先以 40% 为默认值,再根据产品的切换成本和新奇感做加减法,得到一个更贴合自己品类的判定线:

阿强在给小王写的纸条上补了一句:“同样的 40%,在牛肉面、奶茶和企业软件那里,含义完全不一样。先搞清楚自己的品类,再决定用哪条线。”

θ⋆=40%+Δ切换成本−Δ新奇感\theta^{\star} = 40\% + \Delta_{\text{切换成本}} - \Delta_{\text{新奇感}}
这条公式像是“面馆口味修正系数”:开在写字楼商圈的店,上班族换店成本低,标准要定高一点;开在偏远小区唯一的面馆,食客没得选,标准就可以放宽一些。关键是要结合场景做调整,而不是死守一个数。
  1. 确定基准值从通用的 40% 经验阈值出发,它是大量创业公司数据观察出的“中位数健康线”。
    θ基准=40%\theta_{\text{基准}} = 40\%
  2. 修正切换成本若用户换用替代品的成本很高(如企业数据迁移、团队重训),用户通常会更保守地表达失望,因此从阈值中减去一定幅度,让判定更公平。
    θ⋆=40%−Δ切换成本\theta^{\star} = 40\% - \Delta_{\text{切换成本}}
  3. 修正新奇感若产品天然容易激发好奇心(如 AI 生图、AI 聊天等尝鲜型产品),用户初期投票偏乐观,则在阈值上增加一定幅度,过滤掉“三分钟热度”。
    θ⋆=40%−Δ切换成本+Δ新奇感\theta^{\star} = 40\% - \Delta_{\text{切换成本}} + \Delta_{\text{新奇感}}

创业应用

三个月后,阿强的面馆在小区里站稳了脚跟。他开始认真考虑一个更大的问题:要不要开第二家分店?这意味着要投入半年积蓄,要雇新的师傅,还要冒口碑稀释的风险。这时他终于意识到,当初那个看起来“土里土气”的问卷,本质上是一套创业决策工具——它不是用来收集表扬信的,而是用来回答“该不该继续投入”这个让人辗转反侧的问题的。

对 AI 创业团队来说,这套工具的价值有过之而无不及。AI 产品的研发成本高昂,模型训练、API 调用、工程迭代都在烧钱,团队又特别容易陷入“技术自嗨”——觉得模型效果惊艳、Demo 炫酷,就默认用户一定会买单。Sean Ellis 测试给团队提供了一个低成本验证阀:在产品 MVP 上线后,快速发给种子用户,用 40% 基线检验“用户是觉得酷,还是离不开”。这能有效避免团队在错误方向上投入过多资源,也能帮团队把有限的精力聚焦到真正让用户“失望不起”的核心功能上。

在决定投入规模时,团队还可以把测试结果放进一个简单的期望值模型:持续投入是否值得,取决于通过 PMF 的概率与成功后的收益,以及失败时的沉没成本之间的博弈:

阿强最终在隔壁小区签下了新铺位,因为他的小黑板上写着一个让所有犹豫都安静下来的数字:67% 的老顾客说,少了这碗面他们会非常失望。那碗面,终于有了自己的“市场匹配”。

E[继续投入]=PPMF×V成功−(1−PPMF)×C沉没E[\text{继续投入}] = P_{\text{PMF}} \times V_{\text{成功}} - (1 - P_{\text{PMF}}) \times C_{\text{沉没}}
这句公式翻译成阿强的话就是:开分店的期望值 = 面馆真能火起来的概率 × 开成后的利润 − 万一失败的亏损。测试结果就是那个“概率”的最重要证据。
  1. 估计通过概率用 Sean Ellis 测试的结果(如非常失望比例是否跨过调整后的阈值)作为 $P_{\text{PMF}}$ 的估计依据。
    PPMF≈测试通过 ? 高 : 低P_{\text{PMF}} \approx \text{测试通过 ? 高 : 低}
  2. 估算成功收益若产品达到市场匹配,后续增长的预期回报为 $V_{\text{成功}}$,包括用户生命周期价值、口碑传播带来的自然增长等。
    V成功=预期用户规模×单用户价值V_{\text{成功}} = \text{预期用户规模} \times \text{单用户价值}
  3. 估算失败成本若方向错误,继续投入会造成沉没成本 $C_{\text{沉没}}$,包括时间、人力和云资源支出。两者的差就是继续投入的净期望。
    E[继续投入]=PPMF×V成功−(1−PPMF)×C沉没E[\text{继续投入}] = P_{\text{PMF}} \times V_{\text{成功}} - (1 - P_{\text{PMF}}) \times C_{\text{沉没}}

AI 应用场景

AI 产品的 MVP 快速验证

阶段:产品验证阶段

解决的问题:AI 产品研发成本高,团队容易沉浸在“技术很酷”的自我感动中,传统用户访谈又容易收集到客套好评。Sean Ellis 测试用一个标准化的问句,快速判断用户对产品是“想要”还是“需要”。

具体案例:一支做 AI 法律文书助手的团队,MVP 上线两周后向 50 名真实使用过的种子用户发放测试,仅得到 26% 的“非常失望”。团队没有继续硬推广,而是转做“涉外合同审查”这一更垂直的场景,复测后达到 48%,随即获得天使轮投资。

过滤 AI 工具的“新奇感泡沫”

阶段:留存分析阶段

解决的问题:AI 绘画、AI 聊天等生成式工具极易让用户产生“尝鲜式兴奋”,问卷结果虚高。传统做法只测一次,无法区分真实需求与好奇心。

具体案例:某 AI 配音平台在用户注册当天发放测试,“非常失望”比例为 60%,团队差点以为 PMF 达成;坚持在用户使用两周后复测,比例跌到 33%。团队据此调整定位,面向短视频创作者推出“专属音色克隆”功能,才把复测数据拉回 52%。

融资路演前的 PMF 论证

阶段:商业化与融资准备阶段

解决的问题:投资人总爱问“你怎么证明用户真的需要你”。传统做法是展示下载量和日活,但这些指标容易被刷、也容易被质疑。Sean Ellis 测试的问卷原始数据反而更有说服力。

具体案例:一家做 AI 会议纪要工具的创业公司在融资前对 200 名企业用户做了测试,并把“65% 用户表示非常失望”的问卷截图和按行业拆分的交叉分析表放进数据包。投资人看到后直接把估值讨论从 DAU 转移到客单价和续费率上,最终顺利完成 Pre-A 轮。

Python 演示

python43 行
import mathimport random  def run_sean_ellis_test(n, true_p, seed=42):    """模拟一次 Sean Ellis 测试。    n: 有效样本数    true_p: 真实的"非常失望"比例    """    rng = random.Random(seed)    answers = [1 if rng.random() < true_p else 0 for _ in range(n)]    count = sum(answers)    p_hat = count / n    se = math.sqrt(p_hat * (1 - p_hat) / n)    ci_low = p_hat - 1.96 * se    ci_high = p_hat + 1.96 * se    passed = p_hat >= 0.40    return {        "n": n,        "very_disappointed": count,        "p_hat": p_hat,        "ci": (max(0.0, ci_low), min(1.0, ci_high)),        "passed": passed,    }  def report(result):    print("=== Sean Ellis Test Report ===")    print(f"Valid Samples        : {result['n']}")    print(f"Very Disappointed    : {result['very_disappointed']}")    print(f"PMF Ratio            : {result['p_hat']*100:.1f}%")    print(f"95% CI               : [{result['ci'][0]*100:.1f}%, {result['ci'][1]*100:.1f}%]")    print(f"Threshold 40%        : {'PASS [PASS]' if result['passed'] else 'FAIL [FAIL]'}")    if result["ci"][0] >= 0.40:        print("CI lower bound >= 40%, conclusion is robust.")    elif result["passed"]:        print("Caution: CI crosses 40%, collect more samples.")  if __name__ == "__main__":    report(run_sean_ellis_test(n=60, true_p=0.45, seed=1))    print()    report(run_sean_ellis_test(n=60, true_p=0.30, seed=2))
目的:模拟一次完整的 Sean Ellis 测试——随机生成问卷结果,计算“非常失望”比例、95% 置信区间,并自动给出 40% 阈值判定。
  1. answers = [1 if rng.random() < true_p else 0 for _ in range(n)]模拟 n 个用户中每个人的回答,1 代表“非常失望”。
  2. p_hat = count / n计算“非常失望”人数占比,这是测试的核心指标。
  3. se = math.sqrt(p_hat * (1 - p_hat) / n)计算标准误差,衡量这个占比的波动幅度。
  4. ci_low = p_hat - 1.96 * se用 1.96 构造 95% 置信区间下限。
  5. passed = p_hat >= 0.40与 40% 阈值比较,得到初步判定。
  6. if result["ci"][0] >= 0.40检查置信区间下限是否也高于阈值,如果高于说明结论非常稳健。
  7. elif result["passed"]若区间跨越 40%,代码会提示“样本不足,建议扩大样本再测”。

常见误区

误区“只要测出 40% 以上就说明产品一定成功了,达不到 40% 就一定失败,不用管行业和产品类型。”

正解40% 是 Sean Ellis 从大量创业公司数据中观察出的经验分界线,而不是物理定律。ToB 软件切换成本高、用户表达保守,35% 可能已经很强;免费工具和 AI 尝鲜型产品容易虚高,可能需要 50% 以上才真实。正确的做法是把 40% 当基准,再结合切换成本和新奇感做修正。

为何常见:数字越简单越容易让人产生“标准答案”的错觉,新手尤其渴望一个能直接套用的及格线,从而忽略了数字背后的业务语境。

误区“在朋友圈发个问卷链接,收集到 30 份回复,看到 50% 就说产品 PMF 达成了。”

正解样本必须来自真实目标用户——至少注册并使用过产品的人,最好是刚体验完核心价值的用户。向熟人、围观群众或已流失用户发放都会产生严重偏差。另外,有效样本量通常不宜少于 40 份,否则统计噪声极大,一次随机的“差评”就能让结果从 45% 跌到 35%。

为何常见:随手发问卷成本极低,人容易低估“样本来源不当”会比“样本量不足”更致命,误以为只要有数字就是数据。

误区“既然都是负面反馈,'非常失望'和'有点失望'加起来算不就行了?反正用户都不满意。”

正解Sean Ellis 测试的整个分辨力恰恰来自“非常”与“有点”的区分。“非常失望”代表不可替代,“有点失望”代表有替代品可用。把两者合并会让结果虚高,彻底丧失判定力——一个产品四十人选“非常失望”和四十人选“有点失望”,商业含义完全不同。

为何常见:收集到的数据舍不得丢是人之常情,尤其是负面数据,总觉得“多算一点更保险”,反而破坏了指标的纯度。

误区“只要有超过 40% 的人说非常失望,用户就一定会留下来,不用再关注留存率了。”

正解Sean Ellis 测试测的是“态度”——用户在问卷时刻表达的心理依赖,它不是行为数据。一个用户可能在问卷里写“非常失望”,但两个月后照样因为竞品打折而流失。测试通过后仍要持续跟踪次日/30 日/90 日留存和付费转化;反过来,测试未通过也不代表产品没有机会,可能只是还没找到正确的用户群。

为何常见:人脑天然倾向于把“意愿”等同于“行动”,问卷上一句简单的话,比真实行为数据更容易给人确定的错觉。

误区“创业公司在早期做一次 Sean Ellis 测试,通过了就一劳永逸,后面不用再测了。”

正解PMF 是一种动态状态,不是一次性的证书。产品大版本迭代、用户群体迁移、进入新市场甚至竞品格局变化,都可能改变用户对产品的依赖度。建议在每次重大功能上线后、进入新行业时、以及融资前各做一次复测,让数据始终跟上产品的变化。

为何常见:PMF 这个词听起来像“里程碑”,容易让人把它误解为通关奖杯,而忽略了它本质上是持续健康检查的仪表盘。

面试题

Q1. Sean Ellis 测试的核心问题问的是什么?

单选题 · easy

  • A.你愿意为这个产品每月付费多少钱
  • B.如果不能再使用这个产品你会有多失望← 正确答案
  • C.你有多大可能把这个产品推荐给朋友
  • D.这个产品最让你满意的功能是哪个

答案:B。Sean Ellis 测试的灵魂问句就是“如果不能再使用这个产品,你会很失望吗”,它直接衡量产品在用户心中的不可替代性。A 是付费意愿测试,C 是 NPS 推荐度,D 是功能满意度,都不是 PMF 判定的核心指标。

Q2. Sean Ellis 测试中“非常失望”比例的经典阈值是?

单选题 · easy

  • A.30%
  • B.40%← 正确答案
  • C.50%
  • D.60%

答案:B。Sean Ellis 通过观察上百家创业公司的数据发现,超过 40% 用户表示“非常失望”的产品更容易形成自然增长正循环。30% 偏低、50% 或 60% 偏严,40% 是经验意义上“健康线”。

Q3. 执行 Sean Ellis 测试时,有效样本量的经验最低要求是?

单选题 · mid

  • A.不少于 10 份
  • B.不少于 40 份← 正确答案
  • C.不少于 200 份
  • D.不少于 1000 份

答案:B。Sean Ellis 最初提出的样本量门槛是至少 40 份有效问卷,这和中心极限定理的经验规律吻合——样本量太小会导致观测比例波动极大,10 份完全不够,200 份和 1000 份虽然更稳但对早期创业公司不现实。

Q4. 以下哪些做法会降低 Sean Ellis 测试的有效性?

多选题 · mid

  • A.只向已经流失的用户发放问卷← 正确答案
  • B.从活跃注册用户池按比例随机抽样
  • C.在产品首页弹窗请所有访客填写← 正确答案
  • D.只挑选付费用户作为全部样本← 正确答案

答案:ACD。有效测试要求样本代表真实目标用户。流失用户的态度会拉低比例,付费用户会拉高比例,向未使用过产品的访客发卷则测不出真实依赖。B 是相对科学的抽样方式,不会降低有效性。

Q5. 关于 40% 阈值的正确理解是?

单选题 · mid

  • A.所有行业必须严格卡在 40% 才能算通过
  • B.它是经验基准,应结合业务场景做调整← 正确答案
  • C.低于 40% 的产品必然失败,没有例外
  • D.高于 40% 的产品融资一定会顺利

答案:B。40% 是 Sean Ellis 从经验数据中总结的分界线,适合作为默认起点,但 ToB 高切换成本产品可适当放宽,免费尝鲜型产品应更严格。B 准确描述了阈值的性质,A/C/D 都把经验值错误地上升为绝对规律。

Q6. Sean Ellis 测试中“五个选项”的设计用意是什么?

多选题 · mid

  • A.用程度差异区分真实需求与弱需求← 正确答案
  • B.通过选项对比代替用户直接打分← 正确答案
  • C.帮助判断产品被替代后的用户状态← 正确答案
  • D.五个选项比三个选项统计上更精确

答案:ABC。“非常失望/有点失望/无所谓/不再使用”构成一条依赖程度的光谱,让用户不用抽象打分,而是选择贴近自己的状态,同时还能看出替代品场景。选项数量与统计精度无关,D 是错误理由。

Q7. 某产品测试结果:非常失望比例 38%,95% 置信区间为 [33%, 43%]。最合理的判断是?

单选题 · hard

  • A.判定未通过,立即停止投入
  • B.判定通过,可以全力推广
  • C.数据不足以武断下结论,建议扩大样本复测← 正确答案
  • D.结果说明产品方向完全错误,直接放弃

答案:C。38% 虽低于 40%,但置信区间跨过了阈值线,说明真实比例可能高于 40%。仅凭当前数据无法稳健判定通过与否。正确做法是再收集更多样本缩小误差,而不是盲目停投或扩投。

Q8. 对 AI 生成类工具,“新奇感”最可能导致测试结果出现什么偏差?

单选题 · hard

  • A.用户回答更保守,测试结果虚低
  • B.用户出于尝鲜快乐,测试结果虚高← 正确答案
  • C.新奇感对测试结果没有任何影响
  • D.只有付费功能才受新奇感影响

答案:B。AI 绘画、AI 对话等工具在初次体验时会给用户带来强烈的惊喜感,用户容易把“好奇的兴奋”误答成“失去会很失望”。这种虚高会掩盖真实留存问题,因此建议两次复测或在阈值上做上调修正。

Q9. 以下哪些情况适合对 40% 基准线做适当调整?

多选题 · hard

  • A.高切换成本的企业级软件← 正确答案
  • B.依赖音效画面的免费小游戏← 正确答案
  • C.强社交属性的大众内容平台← 正确答案
  • D.产品才上线三天的准备期

答案:ABC。切换成本高时用户表达更保守,阈值可调低;免费小游戏和强社交平台用户态度容易随意或上头,阈值应调高。D 属于执行的时机问题,不是调整阈值本身的理由。

Q10. 当 n=100、非常失望比例 p=50% 时,95% 置信区间的半宽约是多少?

单选题 · extreme

  • A.约 5 个百分点
  • B.约 10 个百分点← 正确答案
  • C.约 15 个百分点
  • D.约 20 个百分点

答案:B。标准误差 SE = sqrt(0.5×0.5/100) = 0.05,95% 置信区间半宽为 1.96×SE ≈ 0.098,约 10 个百分点。即真实比例大概率落在 40% 到 60% 之间,说明即便测出 50%,也要意识到波动空间较大。