当前位置 博文首页 > 风信子的猫Redamancy的快乐星球:PRML Chapter01 练习题Exercise
我们要证明我们可以根据这个式子得到我们的 w w w的最优解,其实也就是最小化我们的平方损失函数
将1.1的多项式函数代入1.2的平方损失函数中,然后再对我们的
w
w
w求导,最小化我们的函数,可得
∑
n
=
1
N
(
∑
j
=
0
M
w
j
x
n
j
?
t
n
)
x
n
i
=
0
\sum_{n=1}^{N}\left(\sum_{j=0}^{M} w_{j} x_{n}^{j}-t_{n}\right) x_{n}^{i}=0
n=1∑N?(j=0∑M?wj?xnj??tn?)xni?=0
然后我们再换一下位置就可以得到我们的结果
第二题就是用正则化的损失函数写成上述1.122的形式,其实很简单,我们只需要将我们第一题 A i j A_{ij} Aij?替换成 A i j + λ I i j A_{ij}+\lambda I_{ij} Aij?+λIij?,也就是对其我们加了一个单位矩阵,就是上面的式子,一样的方法证明,很简单。
1.3是一个简单用了贝叶斯概率的问题
首先求拿到苹果的概率
p
(
a
)
=
p
(
a
∣
r
)
p
(
r
)
+
p
(
a
∣
b
)
p
(
b
)
+
p
(
a
∣
g
)
p
(
g
)
=
3
10
×
0.2
+
1
2
×
0.2
+
3
10
×
0.6
=
0.34
p(a)=p(a|r)p(r)+p(a|b)p(b)+p(a|g)p(g)\\ =\frac{3}{10}×0.2 + \frac{1}{2}×0.2 + \frac{3}{10}×0.6=0.34
p(a)=p(a∣r)p(r)+p(a∣b)p(b)+p(a∣g)p(g)=103?×0.2+21?×0.2+103?×0.6=0.34
第二个问题是求已知拿到的是橙子,求它来自于绿色盒子的概率,这个我们利用贝叶斯公式
p
(
g
∣
o
)
=
p
(
o
∣
g
)
p
(
g
)
p
(
o
)
p
(
o
)
=
p
(
o
∣
r
)
p
(
r
)
+
p
(
o
∣
b
)
p
(
b
)
+
p
(
o
∣
g
)
p
(
g
)
=
0.36
p(g|o)=\frac{p(o|g)p(g)}{p(o)}\\ p(o) =p(o|r)p(r)+p(o|b)p(b)+p(o|g)p(g)=0.36
p(g∣o)=p(o)p(o∣g)p(g)?p(o)=p(o∣r)p(r)+p(o∣b)p(b)+p(o∣g)p(g)=0.36
所以我们可以得到我们的结果
p
(
g
∣
o
)
p(g|o)
p(g∣o)
p
(
g
∣
o
)
=
3
10
×
0.6
0.36
=
1
2
p(g|o) = \frac{3}{10} × \frac{0.6}{0.36} = \frac{1}{2}
p(g∣o)=