5 章:不确定性
序贯决策问题总是不可避免地要处理不确定性,这通常是随时间做出决策时最具挑战性的维度。不确定性以三种方式影响系统的表现:
- 我们在某个时间点做出的决策没有被正确执行。
- 在给定决策的情况下,系统的表现与我们做出决策时所估计的不一致。
- 由于我们向前推进时情况发生变化,现在的决策对未来的影响没有被正确估计。
尽管我们仅列出了不确定性影响表现的三种方式,但不确定性以多种形式出现,这正是为何某些形式的不确定性在建模过程中经常被忽略的原因。事实上,大多数优化工具的使用都忽略了所有形式的不确定性,这通常反映出显式建模任何形式的不确定性都会带来不确定性的急剧增加。
本章的一个目标是强调不确定性可能出现的不同方式。这并不意味着模型需要纳入所有形式的不确定性。然而,忽略某种不确定性形式的决定应当是一个明确的选择,而不应仅仅是因为建模者忽视了它。
不确定性的12个类别 {#12classesofuncertainty}
识别不确定性来源的一种方法是从数学模型反向推导。下面列出了从不确定性如何进入模型的角度所创建的12个不确定性类别。像管理供应链、能源系统或解决公共卫生问题这样的复杂问题,将涉及所有12个类别,而像下棋这样简单的问题可能只涉及一个类别。
这些类别之间存在一些重叠,因此如果在如何归类某个不确定性来源上存在一些模糊之处,不必担心。重要的是尽可能多地识别不同形式的不确定性。
- 观测误差 – 这些代表了我们必须从环境中观测到的数量和参数中的误差。一些例子可能是:
- 计算机中记录的某产品当前库存,可能与实际库存不符。
- 用于检测癌症的患者医学X光片。
- 偏好某位政治候选人的选民比例。
- 外源不确定性 – 这是在做出决策之后才会到达我们系统的信息,例如:
- 市场上销售的某产品的需求。
- 股票价格的变化。
- 从一个城市开车到下一个城市所需的时间。
- 明天可能存入或取出的现金数额。
- 患者对某种药物的反应。
- 预测不确定性 – 这是对需求、价格、行程时间(我们可能预测的任何数量)预测中的误差。
- 推断不确定性 – 这捕捉了我们对当前世界状态估计中的不确定性。这可能包括:
- 市场对价格变化的反应方式。我们可能认为价格上涨5%会导致需求下降10%,但真实值可能是需求下降12%。
- 我们认为某癌症患者处于第二期,但实际上可能是第三期。我们可能检测出乳腺癌,但忽略了它已扩散到其他器官。
- 总统竞选团队可能认为在某个主要市场投入1000万美元的广告支出会使候选人的支持率提高2%,但现实可能更高或更低。
- 实验不确定性 – 这描述了在实验室、模拟器或实地重复进行实验时产生的变化:
- 制造商对硅晶圆制造工艺进行实验。测试可能重复10次,产生70%到90%之间的良率差异。
- 一家企业通过在五个不同的测试市场中运行来评估一项新的营销活动。各市场之间以及随时间推移都会存在差异。
- 使用计算机模拟器测试库存订购策略的表现。模拟器每次运行都会产生不同的结果。
- 模型不确定性 – 这是一个可以涵盖多种不确定性来源的总括类别,但其中最重要的一种是关于某个过程如何随时间演变的模型的不确定性。例子可能包括:
- 气候对控制碳排放政策变化的反应方式。
- 患者对胰岛素注射的反应。
- 某种疾病在人群中的传播方式如何随疫苗分发政策的变化而变化。
- 转移不确定性 – 这是系统对控制作出反应时的噪声。最简单的例子是控制受风力影响而颠簸的火箭或飞机的路径。我们通常假设系统的演变是已知且确定的,但会受到外源过程(例如风)的影响。
- 执行不确定性 – 我们决定做的事情与实际在现场执行的决策之间可能存在差异。例如:
- 医生开出了某种药物,但患者没有服用,或服用了错误的剂量。
- 科学家想测试某种特定的材料组合,但实习生订购了错误的物品(像这样的错误有时会带来重大突破!)。
- 电网命令某发电机在下午1点开启,但当地操作员直到下午2点才开启发电机。
- 沟通错误 – 传达给现场的指令可能仅仅是被误传了。接收指令的人可能认为自己正在按要求执行,但实际上他们只是没有听清或未理解某项指令。
- 算法不稳定性 – 在某些情况下,反复运行一个算法可能会返回不同的解:
- 复杂问题通常需要使用复杂的算法,这会引入一定程度的变化性,这种变化性常常出现在算法使用并行处理时。并行处理器的速度可能会影响哪个先完成,进而影响算法的整体路径。
- 用于求解随机优化问题的算法通常依赖于蒙特卡洛抽样,这会导致算法每次运行时产生不同的结果(这在运行大型语言模型时可以看到)。
- 目标不确定性 – 需要多组人员做出决策的公司(调度卡车、交易金融资产、竞标能源合同)可能表现出差异,因为不同的人强调不同的绩效指标。
- 环境不确定性 – 这里,”环境”可能反映气候,或政治环境(可能影响政策或关税),或公司新管理层的到来(导致优先事项的变化)。
精选应用中的例子
对我们在第2章中介绍的一些应用逐一查看12个类别中每一类的例子会有所帮助。对于每个应用,我们描述每个类别不确定性的一个或多个例子,并指出较简单的应用不会涉及全部12个类别的不确定性。需要记住的是,这里真正的目标是尽可能多地识别不确定性的来源。这些不确定性如何在决策制定过程中体现出来,将在未来的卷册中讨论。
共同基金的现金管理
共同基金必须确定应保留多少现金以满足赎回请求,以及应对个人和机构投资者存款的到来。
| 不确定性类别 | 共同基金现金余额 |
|---|---|
| 1. 观测不确定性 | |
| 2. 外源不确定性 | 存款、赎回、市场指数 |
| 3. 预测不确定性 | 对存款、赎回、市场指数、利率的预测 |
| 4. 推断不确定性 | 估计赎回如何随市场表现变化 |
| 5. 实验变异性 | 测试不同的现金持有策略 |
| 6. 模型不确定性 | |
| 7. 转移不确定性 | 更新当前现金持有量 |
| 8. 执行不确定性 | |
| 9. 沟通错误 | |
| 10. 算法不稳定性 | |
| 11. 目标不确定性 | 在最大化投资回报与最小化为满足赎回而进行的股票出售之间取得平衡 |
| 12. 环境不确定性 | 利率变化 |
寻找最佳糖尿病治疗方案
糖尿病患者必须通过药物(可能使用胰岛素泵)与饮食相结合来管理血糖。
| 不确定性类别 | 血糖管理 |
|---|---|
| 观测不确定性 | 测量糖化血红蛋白(A1c)水平 |
| 外源不确定性 | 患者的饮食内容 |
| 预测不确定性 | 预测餐后血糖水平的变化 |
| 推断不确定性 | 估计患者血糖对药物的反应 |
| 实验变异性 | 不同类型药物导致的血糖变化 |
| 模型不确定性 | 建模患者对某类药物的反应方式 |
| 转移不确定性 | |
| 执行不确定性 | 患者是否遵循医生的指示 |
| 沟通错误 | 患者是否误解了医生的指示 |
| 算法不稳定性 | |
| 目标不确定性 | 在降低血糖与消化问题之间取得平衡 |
| 环境不确定性 |
供应链管理
供应链需要管理在整个系统中必须协调一致的库存。
| 不确定性类别 | 供应链管理 |
|---|---|
| 1. 观测不确定性 | 测量库存 |
| 2. 外源不确定性 | 市场需求、天气、运输时间 |
| 3. 预测不确定性 | 预测需求、生产、离职 |
| 4. 推断不确定性 | 市场对价格的响应、机器故障率 |
| 5. 实验变异性 | 仿真误差、测试新材料、试销 |
| 6. 模型不确定性 | 信息在市场中的传播方式、员工对激励的响应方式 |
| 7. 转移不确定性 | 更新库存 |
| 8. 实施不确定性 | 未能遵循指令 |
| 9. 沟通误差 | 向供应商传达的指令有误 |
| 10. 算法不稳定性 | 最优解相对于生产计划的变化 |
| 11. 目标不确定性 | 生产成本与满足需求之间优先级的差异 |
| 12. 环境不确定性 | 关税、汇率、利率的变化 |
纳洛酮试剂盒的分配
州政府机构必须将纳洛酮试剂盒分配给正在治疗患者的当地诊所和医疗专业人员,以满足其需求。
| 不确定性类别 | 纳洛酮试剂盒的管理 |
|---|---|
| 观测不确定性 | 库存中纳洛酮试剂盒的数量 |
| 外源不确定性 | 需要使用纳洛酮试剂盒的事件数量 |
| 预测不确定性 | 对吸毒模式变化的估计 |
| 推断不确定性 | 对试剂盒可获得性如何影响其使用的估计 |
| 实验变异性 | |
| 模型不确定性 | 理解吸毒模式如何随时间变化 |
| 转移不确定性 | 每周纳洛酮试剂盒库存的变化 |
| 实施不确定性 | 试剂盒是否被正确使用;分配指令是否被遵循 |
| 沟通误差 | 现场代表在分发试剂盒时是否遵循指令 |
| 算法不稳定性 | |
| 目标不确定性 | 确定为谁提供纳洛酮试剂盒的优先次序 |
| 环境不确定性 | 纳洛酮试剂盒资金的可获得性 |
卡车车队的管理
整车运输公司必须确定要运送哪些货物,以及由哪位司机运送。
| 不确定性类别 | 卡车车队的管理 |
|---|---|
| 观测不确定性 | |
| 外源不确定性 | 来自托运人的新货运需求;司机拒绝的任务;交通延误 |
| 预测不确定性 | 对未来货运量的预测 |
| 推断不确定性 | 市场对现货价格变化的反应 |
| 实验变异性 | 运行司机分配变化的仿真 |
| 模型不确定性 | |
| 转移不确定性 | 可用货运量的变化;司机可用性的更新 |
| 实施不确定性 | 调度员是否遵循模型的指令 |
| 沟通误差 | 调度员是否遵循其管理者的指令 |
| 算法不稳定性 | 随着司机价值估计的更新,解的变化 |
| 目标不确定性 | 在空驶里程、托运人承诺与让司机回家之间进行权衡 |
| 环境不确定性 | 交通部服务时长规则的变化 |
电力电网的规划
电网必须与公用事业公司协作,确定应启用哪些发电机以满足电网上预期的需求。
| 不确定性类别 | 电力电网的管理 |
|---|---|
| 观测不确定性 | 估计温度、天气、客户态度 |
| 外源不确定性 | 天气变化、发电机故障 |
| 预测不确定性 | 温度、风力、云量的预测 |
| 推断不确定性 | 估计电力需求随电网价格变化的方式 |
| 实验变异性 | 对模型参数变化响应的变异性 |
| 模型不确定性 | 地理区域内风速演变的误差 |
| 转移不确定性 | 预期风力发电与实际值之间的差异 |
| 实施不确定性 | 对公用事业公司的指令与其实际操作之间的差异 |
| 沟通误差 | 对传达给公用事业公司指令的理解误差 |
| 算法不稳定性 | 整数规划算法性能的变化 |
| 目标不确定性 | 在核能、煤炭与可再生能源之间的权衡 |
| 环境不确定性 | 过剩太阳能发电补偿政策的变化 |
不确定性如何影响绩效
虽然我们已经识别出12类不确定性,但不确定性影响模型行为的方式其实只有三种:
- 决策是如何做出的。
- 模型中所选决策产生的绩效指标。
- 在做出决策之后、下一次决策做出之前,模型中系统的演变方式。
然后是不确定性在实际场景中影响绩效的方式:
- 在实际场景中实施的决策。
- 在实际场景中实施的决策所产生的实际绩效指标。
- 系统在实际场景中的演变方式。
不确定性影响绩效的方式有很多,从随机成本,到患者对药物的反应,再到投资的价格。目前,我们只专注于识别不确定性影响绩效的方式。
不确定性的不同表现形式
理解不确定性的第一步,是像我们上面所做的那样,列出不确定性的不同来源。接下来的一步,则是描述不确定性出现的不同形式。以下是其中的一些示例:
- 细粒度变异性 – 这可能出现在秒(甚至几分之一秒)、分钟、小时或每日的时间尺度上。细粒度变异性的例子包括:
- 金融中的高频交易——这些决策每秒会做出多次。
- 电网的频率调节——这些是每两秒发送给发电机的信号,用于进行调整,以使电压保持在一个狭窄的范围内。
- 不同餐厅食品选择的每小时销量,这可能需要在服务前进行一些准备工作。
- 图5.1所示的风速每小时变化。该图还会捕捉到云量的每小时到每日变化,这些都发生在可预测的季节性变化背景之下。
- 零售产品的每日销量。
- 医院流感住院人数的每日到每周变化。
- 偏移 – 一个过程的细粒度变异性通常表示围绕均值的波动,但有时均值本身会发生偏移。例子包括:
- 由于产品本身或竞品定价的变化,零售产品的随机需求可能会发生偏移。
- 随着传染病在医院附近人群中的传播,某种传染病的住院率会发生偏移。
- 共同基金赎回需求虽然逐分钟变化,但当更广泛的股市对经济变化做出反应时,也会发生偏移。
- 随着利率的变化,(比如某位房地产经纪人所服务的)参与房屋竞标的人数会转向不同的水平。
- 爆发、间歇性需求 – 这些描述的是这样一种模式:几乎没有或很少活动,但随后经历一次爆发,直到再次平息(见图5.2)。爆发的例子包括:
- 麻疹等疾病的传播——当一种疾病进入某个地区时,随着该疾病在人群中最脆弱部分的传播,会出现一段感染人数增加的时期。
- 某种产品可能一直卖不出去,直到有人偶然购买,并在获得良好体验后进行口碑传播。这种传播会在其社交网络中扩散,直到网络饱和为止。
- 尖峰 – 一个过程可能反映两种驱动来源。第一种来源来自一个界定明确的分布,产生较为温和的结果。第二种来源代表罕见的、比第一种分布大得多的结果。例如:
- 电网上的电价每5分钟更新一次。图5.3展示了2月份的实时电网价格。它显示了一系列稳定的随机变化,偶尔会出现比典型变化大得多的尖峰。
- 一场风暴引发了对牛奶、鸡蛋和厕纸的抢购。
- 经过机场的风暴系统可能导致多次航班取消,这反过来又可能产生大量的临时酒店房间需求。
- 空间事件(天气、疾病、监管) – 有许多具有区域性质的随机过程实例。以下是一些例子:
- 天气 – 风暴可以在遭受恶劣天气袭击或预报有恶劣天气的地区产生一系列随机事件。
- 疾病 – 由于疾病传播通常需要身体接触,疫情爆发通常呈现区域性模式。
- 监管 – 监管的变化通常遵循政治边界,可能是针对一个国家,或一个国家内的州、地区或省份。
- 系统性事件 – 这些是可以影响整个公司(跨越国际边界)、整个国家、甚至产生全球影响的事件,例如:
- 网络攻击,可能影响整个公司的信息流。
- 公众认知 – 公共事件可能迅速产生对公司的正面或负面认知。例如,一家啤酒公司发起了一项支持LGBTQ社区的活动,这在其保守派客户中引发了突然的强烈反弹,影响了整个公司的销售。
- 罕见事件 – 罕见事件可能来自多种来源,如地震、疾病爆发或恐怖袭击。这些通常是被公认发生频率很低的事件,但一旦发生,可能会对组织产生重大影响。
- 偶发情况 – 这一类别指的是可能发生但没有历史记录的事件。例如,电网运营商会为核电站故障做出规划。虽然这在一个国家内可能从未发生过,但电网运营商可能仍然希望为这种情况的发生做好准备。
季节性
另一种形式的变异性被概括在”季节性”这一术语下,它有多种形式:
- 日周期 – 也称为昼夜周期,这些最终都可以追溯到太阳周期,但它们可以在人类活动中引发强烈的每日模式。日周期通常被离散化为小时,但也可能出现更精细的离散化(5分钟、1分钟)。
- 星期几 – 这反映了围绕一周中不同日子设定的人类行为的每日模式。
- 周内小时 – 每小时的模式可能同时依赖于星期几以及一天中的小时,以捕捉诸如周一早晨、周五下午等效应,以及工作日与周末的每日模式差异。
- 月内周次 – 制造业经常有按月最大化生产的推动力,从而产生在月末前推出产品的激励。这会在月末前造成激增,随后是一段平静期。
- 年内月份 – 这捕捉了熟悉的冬、春、夏、秋季节模式。
- 年内周次 – 季节变化可能在一个月内发生,这促使使用年内周次作为季节性时间增量。
图 5.4(左)显示了一周内的太阳能发电量,展示了由太阳产生的熟悉且高度可预测的模式,该模式受到高度随机的云层遮挡的干扰。图 5.4(右)显示了全年的每小时太阳能,我们可以清楚地看到冬季太阳能的减少。
创建信念
如果我们要在计算机上对不确定性进行建模,我们必须找到一种方法来表示它。下面是几种常用的策略。
- 可以使用历史数据来拟合一个已知的概率分布 – 我们可以使用一整族概率分布来拟合历史数据,其中最著名的是正态分布。我们稍后会回到这个丰富的主题。
-
使用历史数据创建一个采样信念模型 – 假设我们有一次行程的旅行时间,范围从50到80分钟,取决于交通状况。我们可以使用几种概率分布中的任何一种来表示这种不确定性,或者我们可以简单地使用过去观测值的样本,例如:
(52, 63, 78, 59, 71, 68)
-
使用历史数据创建一个可从中抽取样本的分位数分布 – 假设我们有10个电价观测值的样本,如图 5.5(左)所示。将价格从小到大排序后,我们展示了图 5.5(右)中给出的累积概率。因此,我们会说60%的观测值为$86.33或更低。这些数据随后被绘制在右侧的累积分布中。
也可以使用判断手动创建累积分布。
- 使用手动创建的结果来表示可能发生的事件 – 当我们没有数据时,我们可以简单地设想可能的结果。例如,我们可能从台湾运送产品,通常需要四周时间。然而,我们可以设想各种形式的延误,从飓风到苏伊士运河的积压、港口的劳工问题甚至恐怖袭击。我们可能觉得必须考虑到运输可能需要长达九周的可能性,然后为这种偶发情况做好规划。
相关性问题
上一节简要介绍了表示估计中不确定性的方法。然而,一旦我们走上承认不确定性的道路,我们就必须面对更为复杂的相关性问题。
有一些信息过程的例子有助于说明不同形式的相关性。假设我们可能会考虑以下任何一种数据流:
- 客户在多个销售地点购买零售产品。
- 从下订单到收到订单之间的提前期。
- 风电场产生的能量。
- 最新流感毒株的新感染率。
- 客户向不同地点投标的整车运输量。
这些只是我们必须处理的信息流类型中的一小部分。下面我们使用这些例子来讨论三种不同类型的相关性:
- 时间上的相关性。
- 地理上的相关性。
- 属性上的相关性。
时间上的相关性
所有序贯决策问题都涉及时间要素,其时间尺度几乎可以是任意的,从秒、分钟、小时、天到周、月甚至年。
时间上的相关性可能在我们的五个问题场景中分别出现,如下所示:
- 即将到来的暴风雪可能引起对吹雪机需求的激增;负面宣传可能造成一段需求减少的时期。
- 港口罢工可能造成积压,使卸货时间延长数月。
- 暴风雨可能造成风力发电增加的时期,可能持续数天。
- 当病毒进入一个地区时,它会造成一段可持续数周到数月的感染高峰期。
- 如果一家工厂因维护而关闭,某地点的运输量可能会下降一周。
图 5.6 说明了当天气系统穿过一个地区时,风能发电量在一段时间内如何超过或低于预测值。重要的是,我们不仅要复现实际值与预测值之间的误差,还要复现我们保持在预测值以上或以下的时间量,这一数量被称为”穿越时间”。
将随机信号视为对基准均值的变化是相当常见的做法,该基准均值通常被视为需要估计的常数。实际上,”基准均值”也可能在变化,但变化的时间尺度不同。例如,走进零售店的顾客代表在精细时间尺度上的随机结果,因为每位顾客的行为是独立的。但他们可能对市场信号(广告、口碑)做出反应,而这些信号也在变化,只是变化速度更慢。
可以说,时间相关性带来的最大挑战在于它可能同时在多个时间尺度上发生。独立事件(例如每小时有多少人进店要求购买止咳药)相当容易建模。在较长时间尺度上发生的变化更难处理,因为它们会在较小的时间尺度上产生看似跨时间的相关性。
地理上的相关性
客户购买决策、疾病爆发和天气都是随地理位置变化的随机过程实例。有时政治边界可能会限制相关性,但大多数情况下,仅仅是距离决定了相关性的强度。
空间分布的过程通常发生在非常高的维度中(有很多空间位置!)。使地理相关性简化的是,它通常相当容易捕捉。地理因素可能纯粹是距离的函数,但它也可能反映地理边界以及人口迁移模式。幸运的是,有强大的数学工具可以帮助识别和捕捉这些相关性。
地理上的相关性可能在我们的五个问题场景中分别出现,如下所示:
- 对吹雪机需求的激增也将是区域性的,因为它是对暴风雪(区域性的)的响应。
- 港口延误可能导致该港口服务区域内的供应减少,离港口较近的地点相关性更高。
- 暴风雨也是区域性的,会在受影响地区的风电场造成能量激增。同样,热浪(也是区域性的)会产生低风力时期。
- 流感的传播将是区域性的,因为它在彼此接近的人之间传播。
- 货运是由制造工厂的变化(位于某一地点)或需求变化产生的,而需求变化可能由区域性因素驱动。
属性上的相关性
我们的大多数例子都涉及以一组属性为特征的活动:
- 服装需求在款式相似但颜色不同的服装之间会存在相关性。
- 共享共同投入品(如服装材料、汽车芯片、电机稀土)的产品在投入品短缺时可能表现出相似的提前期延误。
- (风能没有明显的跨属性相关性使用案例。)
- 新感染病例可能在具有共同特征(如年龄或健康状况)的人群之间相关。
- 当整车运输移动共同商品或产品时,其流量可能相关。
通常情况是,当我们展开所有属性时,我们会发现自己面对如此多的组合,以至于特定属性组合的观测数量可能相当少,甚至可能为零。这些问题适合使用分层估计方法,即通过忽略一个或多个属性来创建不同的时间序列,然后使用加权组合。
习题
复习题
- 说出不确定性的12个类别的名称,并从任意应用中给出每个类别的一个例子。
- 说出可用于描述随机过程的七种不确定性形式,并描述可能产生每一种形式的情境。
- 不确定性可能以哪些方式影响系统的性能?请为每种方式给出一个例子。
- 说出四种季节性形式的名称。
- 根据以下观测值绘制风速的累积分布:
(17, 8, 2, 12, 9, 28, 10, 8, 35, 12, 15)
建模问题
针对以下每个问题,请尝试按照上文一节所给出的表格,为下列各设定在每个类别中找出尽可能多的不确定性形式。