第四章 贝叶斯分析_
第四章 贝叶斯分析 Bayesean Analysis §4.0引言 一、决策问题的表格表示——损失矩阵 对无观察(No-data)问题 a=δ 可用表格(损失矩阵)替代决策树来描述决策问题的后果(损失): | |[pi|… |[pi|… |[pic| | |c] | |c] | |] | |π([pic|[pi| |[pi| |[pic| |]) |c] | |c] | |][pi| | | | | | |c] | |… | | | | | | |π([pic|[pi| |[pi| | | |]) |c] | |c] | | | |… | | | | | | |π([pic|[pi| | | |[pic| |]) |c] | | | |] | 或 | |π([pic]|… |π([pic]|… |π([pic]| | |) | |) | |) | |[pic] |[pic] | |[pic] | |[pic] | |… | | | | | | |[pic] | | |[pic] | | | |… | | | | | | |[pic] |[pic] | | | |[pic] | 损失矩阵直观、运算方便 二、决策原则 通常，要根据某种原则来选择决策规则δ，使结果最优(或满意)，这种原则就叫决策原则 ，贝叶斯分析的决策原则是使期望效用极大。本章在介绍贝叶斯分析以前先介绍芙他决 策原则。 三、决策问题的分类： 1.不确定型(非确定型) 自然状态不确定,且各种状态的概率无法估计. 2.风险型 自然状态不确定,但各种状态的概率可以估计. 四、按状态优于： [pic]≤[pic] (I, 且至少对某个i严格不等式成立, 则称行动[pic]按状态优于[pic] §4.1 不确定型决策问题 一、极小化极大(wald)原则(法则、准则) [pic][pic] [pic] [pic][pic] l ([pic] , [pic]) 或 [pic] [pic][pic] 例: | |[pic] |[pic] |[pic] |[pic] | |[pic] |10 |8 |7 |9 | |[pic] |4 |1 |9 |2 | |[pic] |13 |16 |12 |14 | |[pic] |6 |9 |8 |10 | 各行动最大损失: 13 16 12 14 其中损失最小的损失对应于行动[pic]. 采用该原则者极端保守, 是悲观主义者, 认为老天总跟自己作对. 二、极小化极小 [pic][pic] l ([pic] , [pic]) 或 [pic] [pic] [pic] 例: | |[pic] |[pic] |[pic] |[pic] | |[pic] |10 |8 |7 |9 | |[pic] |4 |1 |9 |2 | |[pic] |13 |16 |12 |14 | |[pic] |6 |9 |8 |10 | 各行动最小损失: 4 1 7 2 其中损失最小的是行动[pic]. 采用该原则者极端冒险，是乐观主义者，认为总能撞大运。 三、Hurwitz准则 上两法的折衷，取乐观系数入 [pic]［λ[pic] l ([pic] , [pic])＋（1－λ〕[pic] l ([pic] , [pic])］ 例如 λ=0.5时 λ[pic][pic] : 2 0.5 3.5 1 （1－λ〕[pic][pic]: 6.5 8 6 7 两者之和： 8.5 8.5 9.5 8 其中损失最小的是：行动[pic] 四、等概率准则(Laplace) 用 [pic][pic] 来评价行动 [pic]的优劣 选[pic][pic][pic] 上例： [pic][pic] : 33 34 36 35 其中行动 [pic] 的损失最小 五、后梅值极小化极大准则(svage-Niehans) 定义后梅值 [pic]=[pic]-[pic][pic] 其中[pic][pic]为自然状态为[pic] 时采取不同行动时的最小损失. 构成后梅值(机会成本)矩阵 S={[pic]}[pic] ,使后梅值极小化极大,即: [pic][pic] 例:损失矩阵同上, 后梅值矩阵为: 3 1 0 2 3 0 8 1 1 4 0 2 0 3 2 4 各种行动的最大后梅值为: 3 4 8 4 其中行动a1 的最大后梅值最小,所以按后梅值极小化极大准则应采取行动1. 六、Krelle准则： 使损失是效用的负数(后果的效用化),再用等概率(Laplace)准则. 七、莫尔诺(Molnor)对理想决策准则的要求 (1954) 1.能把方案或行动排居完全序； 2.优劣次序与行动及状态的编号无关； 3.若行动 [pic]按状态优于[pic]，则应有 [pic]优于[pic] ； 4.无关方案独立性：已经考虑过的若干行动的优劣不因增加新的行动而改变； 5.在损失矩阵的任一行中各元素加同一常数时，各行动间的优劣次序不变； 6.在损失矩阵中添加一行，这一行与原矩阵中的某行相同，则各行动的优劣次序不变。 §4.2 风险型决策问题的决策原则 一、最大可能值准则 令 π([pic])=maxπ([pic]) 选 [pic]使 l([pic],[pic])=[pic]l([pic],[pic]) 例： | |π([pic]|[pic] |[pic] |[pic] | | |) | | | | |[pic] |0.2 |7 |6.5 |6 | |[pic] |0.5 |3 |4 |5 | |[pic] |0.3 |4 |1 |0 | π([pic]) 概率最大, 各行动损失为 3 4 5 ∴应选行动[pic] 二、贝叶斯原则 使期望损失极小： [pic]{ [pic]l([pic] , [pic]) π([pic]) } 上例中,各行动的期望损失分别为 4.1 3.6 3.7, 对应于[pic]的期望损失3.6最小 ∴应选[pic]. 三、贝努利原则 损失函数取后果效用的负值,再用Bayes原则求最优行动. 四、E—V(均值—方差)准则 若 [pic][pic] ≤[pic][pic] 且 [pic] 则[pic]优于[pic] 通常不存在这样的[pic] 上例中: |[pic] |[pic] |[pic] | E 4.1 3.6 3.7 V([pic]) 2.29 3.79 5.967 不存在符合E—V准则的行动, 这时可采用f(μ,σ)的值来判断(μ为效益型后果的期望) ( μ-ασ f( μ，σ)=( μ-ασ[pic] ( μ-α(μ[pic]+σ[pic]) f越大越优. 五、不完全信息情况下的决策原则(Hodges-Lehmann原则) 状态概率分布不可靠时, 可采用: φ([pic])=λ[pic] + [pic][pic] i=1,2,… ,m j=1,2,…,n φ越大越优. §4.3贝叶斯定理 一、条件概率 1.A、B为随机试验E中的两个事件 P(A｜B)=P(AB)/P(B) 由全概率公式: [pic] j=1,2,…,n 是样本空间的一个划分, P(B)=[pic]P(B|[pic])P([pic]) 得Bayes公式 P([pic]|B)=P(B|[pic])·P([pic])/P(B) = P(B|[pic])·P([pic])/[pic]P(B|[pic])P([pic]) 2. 对Θ,Χ两个随机变量 ·条件概率密度 f(θ| x)=f(x |θ)f(θ)/f(x) ·在主观概率论中 π(θ| x)=f(x |θ)π(θ)/m(x) 其中：π(θ)是θ的先验概率密度函数 f(x｜θ)是θ出现时，x的条件概率密度,又称似然函数. m(x)是x的边缘密度, 或称预测密度. m(x)=[pic] f(x |θ)π(θ) dθ 或 [pic]p(x|[pic])π([pic]) π(θ｜x)是观察值为x的后验概率密度。 例：A 坛中白球30%黑球70% B 坛中白球70%黑球30% 两坛外形相同，从中任取一坛，作放回摸球12次,其中白球4次，黑球8次，求所取为A坛 的概率. 解：设观察值4白8黑事件为x，记取A坛为 [pic], 取B坛为[pic] 在未作观察时，先验概率p([pic])=p([pic])=0.5 则在作观察后，后验概率 P([pic]|x)=p(x|[pic])p([pic])[pic]p(x|[pic])p([pic])+p(x|[pic])p([pic]) =[pic]×[pic]×0.5[pic]([pic]×[pic]×0.5+[pic]×[pic]×0.5) =[pic][pic]([pic]×[pic]) =0.2401[pic]0.2482 =0.967 显然, 通过试验、观察、可修正先验分布. §4.4 贝叶斯分析的正规型与扩展型 一、正规型分析 由Baysean原则：先验分布为π(θ)时，最优的决策规则δ是贝叶斯规则[pic],使贝叶斯风 险 r(π, [pic])=[pic] r(π,δ(x)) 其中：r(π,δ(x))= [pic]R(θ,δ(x)) =[pic][[pic] l(θ,δ(x)) = [pic][pic] l(θ,δ(x)) f(x |θ)dxπ(θ) dθ (1) 据(1)式，选[pic]使r(π，δ)达到极小，这就是正规型的贝叶斯分析。 在解实际问题时，求使(1)式极小的δ(x)往往十分困难，尤其在状态和观察值比较复杂时 ，Δ集中的策略数目很大，穷举所有的δ(x)有困难，且计算量颇大。实际上可用下法： 二、扩展型贝叶斯分析(Extensive Form Analysis) 在(1)式中因l(θ,δ)>-∞，f(x｜θ)，π(θ)均为有限值。 ∴由Fubini定理，积分次序可换 即r(π,δ(x))= [pic][pic] l(θ,δ(x)) f(x |θ)dxπ(θ) dθ =[pic][pic] l(θ,δ(x)) f(x |θ)π(θ) dθdx (2) 显然，要使(2)式达到极小，应当对每个x∈X，选择δ， 使 [pic]l(θ,δ(x)) f(x |θ)π(θ) dθ （2’）为极小 ∵δ(x)=a ∴若对给定的x,选a，使 [pic]l(θ,δ(x)) f(x |θ)π(θ) dθ 为极小 亦即， 使 [pic][pic]l(θ,a) f(x |θ)π(θ) dθ =[pic]l([pic],a) π([pic]|x) dθ 或 [pic]l([pic],a)p([pic]|x) (3) 达极小，即可使(1)式为极小. ·结论： 对每个x，选择行动a，使之对给定x时θ的后验分布π(θ｜x)的期望损失为极小，即可求得 贝叶斯规则。 这种方法叫贝叶斯分析的扩展型，由此确定的贝叶斯规则叫formal Bayesean Rule ——Raiffa Sehlaifer,1961年提出。 ·Note ·使(3)式达极小的行动可能不只一个，即可能有多个贝叶斯规则； ·扩展型比正规型更直观，也容易计算，故更常用； ·许多分析人员只承认扩型，理由是： i，π(θ｜x)描述了试验后的θ的分布，比π(θ)更客观，因此，只要损失函数是由效用理论 导出的(即考虑了DMer的价值判断、风险偏好)，在评价行动a的优劣时就应当用后验期望 损失。 ii, r(π，δ)是根据π(θ)求出的，而用先验分布π(θ)来确定行动a并不一定适当。 从根本上讲，这种观点是正确的。 ·无论从何种观点来进行贝叶斯分析，从理论上讲，结果是一样的，所以采用何种方法可 视具体问题，据计算方便而定。 ·已经证明，形式贝叶斯分析对一类非随机性决策规则是成立的，也可以证明它对随机性 决策规则同样成立。使所有x上后验期望损失极小的贝叶斯规则也是随机性规则集Δ*中的 Bayes规则，因此，总可以找到一验期望损失极小的非随机性规则。 三、例(先看无观察问题) 农民选择作物问题，设某地旱年[pic]占60%，正常年景[pic]占40%; [pic] 种植耐旱作物 [pic]种不耐旱作物，后果矩阵为: [pic] [pic] [pic] 20 0 [pic] 60 100 决策人的效用函数 u(y)=[pic](1-[pic]) 解：i令：l(y)=1-u(y) [pic] ii,作决策树： [pic] iii, 在无观察时, R=l, r= [pic]l([pic],a)π([pic]) r(π, [pic])=l([pic],[pic])π([pic])+l([pic],[pic])π([pic]) =0.62 ×0.6+0.19 ×0.4 =0.448 r(π, [pic])= l([pic],[pic])π([pic])+l([pic],[pic])π([pic]) =1.0 ×0.6+0 ×0.4 =0.6 风险r小者优, ∴δ=[pic]，是贝叶斯规则, 即贝叶斯行动.即应选择耐旱作物。 四、例(续上) 设气象预报的准确性是0.8，即p([pic]|[pic])=0.8 p([pic]|[pic])=0.8 其中，[pic]预报干旱 [pic]预报正常年景 则 m([pic])=p([pic]|[pic])π([pic])+p([pic]|[pic])π([pic]) =0.8 ×0.6+0.2 ×0.4=0.56 m([pic])=0.44 π([pic]|[pic])=p([pic]|[pic])π([pic])[pic]m([pic]) =0.8 ×0.6／0.56=0.86 π([pic]|[pic])=p([pic]|[pic])π([pic])[pic]m([pic]) =0.2 ×0.6／0.44=0.27 π([pic]|[pic])=0.14 π([pic]|[pic])=0.73 1. 正规型分析 ①策略[pic]: [pic]= [pic]([pic]) [pic]=[pic]([pic]) r(π, [pic])=[pic][pic]l ([pic],[pic]([pic]))p([pic]|[pic])π([pic]) 4-7 = l ([pic],[pic])p([pic]|[pic])π([pic])+l ([pic],[pic])p([pic]|[pic])π([pic]) + l ([pic],[pic])p([pic]|[pic])π([pic])+l ([pic],[pic])p([pic]|[pic])π([pic]) =0.62×0.8×0.6+1.0 ×0.2×0.6+0.19 ×0.2×0.4+0.0× 0.8×0.4 =0.4328 ②策略[pic]: [pic]=[pic]([pic]) [pic]=[pic]([pic]) r(π, [pic])=[pic][pic]l ([pic],[pic] ([pic]))p([pic]|[pic])π([pic]) = l ([pic],[pic])p([pic]|[pic])π([pic])+l ([pic],[pic])p([pic]|[pic])π([pic]) + l ([pic],[pic])p([pic]|[pic])π([pic])+l ([pic],[pic])p([pic]|[pic])π([pic]) = 0.62×0.2×0.6+1.0×0.8×0.6+0.19×0.8× 0.4+0.0×0.8× 0.4 =0.6152 ③策略[pic]: [pic]= [pic]([pic]) [pic]=[pic]([pic]) r(π, [pic])=0.45 ④策略[pic]： [pic]=[pic]（[pic]） [pic]=[pic]（[pic]） r(π, [pic])=0.6 ∵r(π, [pic]) ＜r(π, [pic]) ＜r(π, [pic]) ＜r(π, [pic]) ∴ [pic]([pic]([pic]([pic] [pic]是贝叶斯行动。 [pic] 4－82.扩展型之一：据(2’) : [pic]l(θ,δ(x)) f(x |θ)π(θ) dθ 记作r’ ①给定[pic](预报干旱): 采用[pic] r‘=[pic]l ([pic],[pic])p([pic]|[pic])π([pic]) = l ([pic],[pic])p([pic]|[pic])π([pic]) + l ([pic],[pic])p([pic]|[pic])π([pic]) = 0.62×0.8×0.6+0.19...
第四章 贝叶斯分析_