- 文章目录
- 沟通与影响力
- 信息传递、故事讲述与框架构建
- 信念、预期与信息设计
- 评分规则与校准
思维模型
评分规则与校准
通过诚实评估自身不确定性,学会衡量并提升概率预测的准确性。
探索一下
天气预报员永远“100%确定”下雨或不下雨,是最有用的预报员。这是事实还是误区?
极端自信一定是好事吗?
看看为什么诚实表达概率很重要。
理解概念
理解概念
认为“预测者永远100%确定才最有用”是个误区。这种人往往过于自信、校准度差——即内心的把握与现实不符。评分规则用来给概率预测打分,既奖励准确,也奖励对不确定性的诚实评估。校准衡量你喊“80%把握”的事,是否真的发生八成。比如,项目经理说“90%确定周五完工”,可类似任务只有六成按时交付,那她的校准就很差。
想想:当我说“挺有把握”时,实际会给它多少概率?
试试这样:回顾上周你说过“肯定”的三件事,看看对了多少。
详细讲解
详细讲解
评分规则为概率判断提供了正式评估流程。先输入一个具体数字预测(如“明天下雨概率70%”)。事件发生后(雨或没雨),用评分规则根据预测和结果给分。长期重复,就能检查整体准确率和校准度。
关键概念是恰当评分规则,只有在你报出真实信念时,才能拿到最优期望分。它防止耍滑头或夸大信心。最常见的是布莱尔分数,根据概率离实际结果(0或1)的距离惩罚。
校准是长期追踪的结果。校准好的人知道“70%把握”在现实中到底意味着什么。回头看所有“70%自信”的预测,应接近七成正确。若只有五成正确,就是过度自信。
在医疗中,校准好的医生能告诉病人:“严重情况的概率约20%。”这为是否做风险检查提供关键信息,比模糊地说“不太可能”有用得多。
同样,创业者说“本季度有六成把握达成收入目标”,能让投资者合理管理预期与风险,比盲目乐观更有价值,因为它反映了对不确定性的诚实与量化理解。
研究依据
研究依据
适用局限
适用局限
评分规则与校准虽强大,却非万能。首要限制是需要清晰、具体且可验证的结果。对模糊预测(“经济会好转”)或遥远未来的预测,难以应用。
此外,仅有良好校准并不足够。有人可永远报基准率(如抛硬币50%)而完美校准,但这种预测信息量少、锐度低。目标是在证据充分时既校准良好,又做出有信心的(锐度高的)预测。
参考来源
参考来源
- [1] 超预测:预见未来的艺术与科学菲利普·泰特洛克、丹·加德纳 - 2015
- [2] 严格恰当评分规则、预测与估计蒂尔曼·格奈廷、阿德里安·拉夫特里 - 2007
- [3] 资深医生对咽喉痛患者概率估计的准确性:临床决策启示R·M·波泽斯等 - 1985
- [4] Metaculus预测如何评分?Metaculus - 2023
- [5] 朱莉娅·加莱夫谈校准朱莉娅·加莱夫 - 2013
试一试
检验你的理解
政治分析师做了10个预测,每个都说“八成把握”。结果只有4件成真。这主要说明什么?
查看文章解释
答案: 过度自信(校准差)
八成自信只对了四成,是典型的过度自信,也就是校准差。校准好的预测者喊80%时,十次应中约八次。
你是产品经理,为何说“我有七成把握周五上线这个功能”比“我挺确定周五能上线”更有用?
查看文章解释
答案: 让团队对风险有具体共识,可据此做预案
给出数字迫使你厘清,并让团队共享现实:三成可能不上线,可提前准备备案,而“挺确定”每人理解不同。
使用布莱尔分数等“恰当”评分规则的目标是什么?
查看文章解释
答案: 激励预测者诚实报告真实不确定度
恰当评分规则数学上设计为:只有报出真实概率,长期平均分才最高。它抑制保守退缩和夸大信心,最重诚实。
继续探索
为眼前的选择,再找一个有用的想法。
Reframo 的全部已发布文章均可免费阅读。准备好后,随时继续探索。