似然函数
在数理统计学中,似然函数(likelihood function)是一种关于统计模型中的参数的函数,表示模型参数中的似然性。似然函数在统计推断中有重大作用,如在最大似然估计和费希尔信息之中的应用等等。“似然性”与“或然性”或“概率”意思相近,都是指某种事件发生的可能性,但是在统计学中,“似然性”和“概率”(或然性)又有明确的区分。概率用于在已知一些参数的情况下,预测接下来的观测所得到的结果,而似然性则是用于在已知某些观测所得到的结果时,对有关事物的性质的参数进行估计。
定义
对于离散和连续概率分布,似然函数总是被定义为参数 \(\theta\) 的函数。
\(\blacksquare\) 离散概率分布
设 \(X\) 是离散随机变量,概率质量函数 \(p\) 依赖于参数 \(\theta\)。那么函数
$${\cal L}(\theta|x)=p_\theta(x)=p_\theta(X=x)$$
称为关于 \(\theta\) 的似然函数。
\(\blacksquare\) 连续概率分布
设 \(X\) 是连续随机变量,概率密度函数 \(f\) 依赖于参数 \(\theta\)。那么函数
$${\cal L}(\theta|x)=f_\theta(x)$$
称为关于 \(\theta\) 的似然函数。