思维模型
布里尔评分
一种衡量概率预测准确性的方法,既奖励预测正确,也奖励预测时有把握。
探索一下
两位分析师都预测一家公司会完成季度目标。分析师A认为有90%的概率,结果公司达标了。分析师B认为有60%的概率,结果公司也达标了。只看这一次预测正确的结果,谁的预测更好?
谁的预测更好?
来看看怎样精确衡量预测的准确性。
理解概念
理解概念
布里尔评分是一套给概率预测打分的方法。你可以把它看成预测者的罚分:分数越低越好,奖励的是既预测正确,又有把握。如果预测者很有把握地说某件事会发生,而它确实发生了,罚分就很少;但如果很有把握地说某件事会发生,它却没有发生,罚分就会很高。例如,实际下雨时,预测降雨概率为90%的天气应用,会比只预测60%的应用得分更好。长期来看,这些分数的平均值能显示,谁的预测真正最准确,给出的概率也最贴近实际。
试试这样:我在新闻或工作中听到的概率估计,与实际发生的情况有多吻合?
详细讲解
详细讲解
布里尔评分通过计算预测概率与实际结果之间差值的平方,再取平均,来精确评估概率预测。它奖励准确性和校准程度,也就是预测者给出的概率在长期来看与实际情况有多吻合。
单次预测的计算方法很直接。首先,如果事件发生,就把结果记为1;如果没有发生,就记为0。然后,用预测概率减去实际结果,再把差值平方。完美的得分是0,比如预测某件事有100%的概率发生,而它确实发生了。最差的得分是1,比如预测某件事有100%的概率发生,它却没有发生。
来看一个例子。项目经理预测项目有80%的概率成功,结果项目确实成功了,记为1。预测概率0.8与实际结果1之间的差是负0.2,平方后得到的布里尔评分为0.04,罚分很少。如果项目失败,结果就记为0,差值会是0.8,平方后得分为0.64。因为预测者很有把握却判断错了,罚分就高得多。
评估一位预测者时,你不能只看一次预测,而要计算他在许多不同预测中的布里尔评分平均值。平均分持续较低的预测者,比平均分较高的预测者更可靠。从评估医疗诊断模型,到衡量地缘政治风险分析师的表现,都能用到这种方法。
例如,一家医院可以用布里尔评分比较两个预测患病概率的人工智能系统。通过跟踪它们在数千名患者身上的评分,医院可以判断哪个系统能为医生提供更可靠的概率,进而帮助医生做出更好的治疗决策。
研究依据
研究依据
适用局限
适用局限
布里尔评分并不总是容易直观理解。单独看0.15这个分数,意义不大;它更适合用来比较预测者,或跟踪表现随时间的变化。一个关键局限是,它对事件的基础发生率(也称“气候态”)很敏感。对于非常罕见或非常常见的事件,预测者只要始终报出基础发生率,例如1%,就可能获得看起来不错的低分,却几乎没有展现实际预测能力 [4]。因此,用布里尔评分比较预测者在同一组事件上的表现时,最能获得有用的信息,因为他们的分数包含相同的基础发生率成分 [5]。更深入的分析常会把分数分解为可靠性、分辨力和不确定性几个部分,以便更清楚地辨别预测者的能力 [4]。
参考来源
参考来源
- [1] 以概率形式表达的预报的检验Glenn W. Brier - 1950
- [2] 超预测:预测的艺术与科学Philip E. Tetlock & Dan Gardner - 2015
- [3] 严格适当评分规则、预测与估计Tilmann Gneiting & Adrian E. Raftery - 2007
- [4] 概率评分的一种新向量分解Allan H. Murphy - 1973
- [5] 大气科学中的统计方法Daniel S. Wilks - 2019
试一试
检验你的理解
一位预测者认为,项目有20%的概率延期。结果项目按时完成了。布里尔评分会如何评价*这一次*预测?
查看文章解释
答案: 罚分较低(表现好)
布里尔评分计算预测概率0.2与实际结果之间差值的平方。延期没有发生,所以结果记为0。(0.2 − 0)² = 0.04,得分较低,说明对这一次事件的预测较准确。
如果要用布里尔评分公平比较两位政治分析师一年来的表现,最重要的条件是什么?
查看文章解释
答案: 必须根据他们对同一组事件的预测来评分
要公平比较,就需要用同一组问题来评估预测者。否则,一位分析师可能只是因为预测的事件更容易、更好判断,就显得表现更好。
以下哪位预测者会在这一次预测中得到最差,也就是罚分最高的布里尔评分?
查看文章解释
答案: 预测成功概率为90%;事件没有发生。
这个预测既很有把握,又判断错了,因此受到的布里尔评分惩罚最重。得分为 (0.9 − 0)² = 0.81,是这些选项中罚分最高的。
继续探索
为眼前的选择,再找一个有用的想法。
Reframo 的全部已发布文章均可免费阅读。准备好后,随时继续探索。