当前位置 博文首页 > 风信子的猫Redamancy的快乐星球:PRML Chapter01 练习题Exercise

    风信子的猫Redamancy的快乐星球:PRML Chapter01 练习题Exercise

    作者:[db:作者] 时间:2021-08-22 08:53

    PRML Chapter01 练习题Exercise

    1.1

    在这里插入图片描述

    我们要证明我们可以根据这个式子得到我们的 w w w的最优解,其实也就是最小化我们的平方损失函数

    将1.1的多项式函数代入1.2的平方损失函数中,然后再对我们的 w w w求导,最小化我们的函数,可得
    ∑ n = 1 N ( ∑ j = 0 M w j x n j ? t n ) x n i = 0 \sum_{n=1}^{N}\left(\sum_{j=0}^{M} w_{j} x_{n}^{j}-t_{n}\right) x_{n}^{i}=0 n=1N?(j=0M?wj?xnj??tn?)xni?=0
    然后我们再换一下位置就可以得到我们的结果

    1.2

    第二题就是用正则化的损失函数写成上述1.122的形式,其实很简单,我们只需要将我们第一题 A i j A_{ij} Aij?替换成 A i j + λ I i j A_{ij}+\lambda I_{ij} Aij?+λIij?,也就是对其我们加了一个单位矩阵,就是上面的式子,一样的方法证明,很简单。

    1.3

    1.3是一个简单用了贝叶斯概率的问题

    首先求拿到苹果的概率
    p ( a ) = p ( a ∣ r ) p ( r ) + p ( a ∣ b ) p ( b ) + p ( a ∣ g ) p ( g ) = 3 10 × 0.2 + 1 2 × 0.2 + 3 10 × 0.6 = 0.34 p(a)=p(a|r)p(r)+p(a|b)p(b)+p(a|g)p(g)\\ =\frac{3}{10}×0.2 + \frac{1}{2}×0.2 + \frac{3}{10}×0.6=0.34 p(a)=p(ar)p(r)+p(ab)p(b)+p(ag)p(g)=103?×0.2+21?×0.2+103?×0.6=0.34
    第二个问题是求已知拿到的是橙子,求它来自于绿色盒子的概率,这个我们利用贝叶斯公式
    p ( g ∣ o ) = p ( o ∣ g ) p ( g ) p ( o ) p ( o ) = p ( o ∣ r ) p ( r ) + p ( o ∣ b ) p ( b ) + p ( o ∣ g ) p ( g ) = 0.36 p(g|o)=\frac{p(o|g)p(g)}{p(o)}\\ p(o) =p(o|r)p(r)+p(o|b)p(b)+p(o|g)p(g)=0.36 p(go)=p(o)p(og)p(g)?p(o)=p(or)p(r)+p(ob)p(b)+p(og)p(g)=0.36
    所以我们可以得到我们的结果 p ( g ∣ o ) p(g|o) p(go)
    p ( g ∣ o ) = 3 10 × 0.6 0.36 = 1 2 p(g|o) = \frac{3}{10} × \frac{0.6}{0.36} = \frac{1}{2} p(go)=