当前位置 博文首页 > 风信子的猫Redamancy的快乐星球：PRML 1.2 概率论
考虑一组由参数驱动的
考虑由一组参数 w w w和观察数据 D D D驱动的概率分布。根据关于 w w w的观点，我们可以通过以下两种方式来考虑 w w w的真值:
frequentist POV频率学派: w w w是唯一的，但未知的，我们可以通过 D D D来估计我们离 w w w有多近
bayesian POV贝叶斯: D D D是唯一的(观察到的); w w w是一个随机变量(可能会改变，我们将在 D D D中看到它的影响)
在频率型POV和贝叶斯型POV中，我们都使用了MLE
P
(
D
∣
w
)
\mathbb{P}(D|w)
P(D∣w)。
p
(
w
∣
D
)
=
p
(
D
∣
w
)
p
(
w
)
p
(
D
)
p(w | D) = \frac{p(D|w)p(w)}{p(D)}
p(w∣D)=p(D)p(D∣w)p(w)?
高斯分布由以下定义
N
(
x
∣
μ
,
σ
2
)
=
1
2
π
σ
2
e
?
1
2
σ
2
(
x
?
μ
)
2
\mathcal{N}(x | \mu, \sigma^2) = \frac{1}{\sqrt{2\pi\sigma^2}}e^{-\frac{1}{2\sigma^2}(x - \mu)^2}
N(x∣μ,σ2)=2πσ2?1?e?2σ21?(x?μ)2
代表高斯分布的另一种方法是考虑指示的精确性
β
:
=
1
/
σ
2
\beta := 1 / \sigma^2
β:=1/σ2
N
(
x
∣
μ
,
β
?
1
)
=
β
1
/
2
2
π
σ
2
e
?
β
2
(
x
?
μ
)
2
\mathcal{N}(x | \mu, \beta^{-1}) = \frac{\beta^{1/2}}{\sqrt{2\pi\sigma^2}}e^{-\frac{\beta}{2}(x - \mu)^2}
N(x∣μ,β?1)=2πσ2?β1/2?e?2β?(x?μ)2
def norm_pdf(x, mu, sigma2):
return 1 / np.sqrt(2 * np.pi * sigma2) * np.exp(-(x - mu)**2 / (2 * sigma2))
xrange = np.linspace(-4,
