马尔可夫随机场是什么？用无向图描述相互关联的变量

马尔可夫随机场（Markov Random Field，MRF），也叫无向图模型或马尔可夫网络，是一种用无向图来描述多个随机变量之间相互依赖关系的概率模型。它与使用有向图的贝叶斯网络同为概率图模型中最重要的两类。

它的结构

在马尔可夫随机场中，每个节点代表一个随机变量，节点之间的边没有方向，表示这两个变量之间存在直接的相互影响。与贝叶斯网络中带箭头的“影响方向”不同，无向的边适合描述那些没有明确因果方向的、相互的关联。最典型的例子是图像：把每个像素看作一个节点，相邻的像素之间连一条边。相邻的像素往往颜色相近、属于同一个物体，它们之间相互影响，但说不清是谁影响谁。

马尔可夫性质

马尔可夫随机场满足一种“局部性”的条件独立性质：一个变量在给定它所有邻居的取值之后，就与图中其他所有的变量条件独立。比如在图像中，一个像素的颜色，只要知道了它周围相邻的几个像素，就与远处的像素无关了。这让复杂的整体关系可以分解为局部关系的组合。更一般地，如果图中两组节点之间的所有路径都要经过第三组节点，那么在给定第三组节点之后，前两组节点条件独立。

联合分布的表示

由于边没有方向，马尔可夫随机场不能像贝叶斯网络那样用条件概率来分解联合分布，而是使用“势函数”。图中两两之间都有边相连的一组节点叫作一个团，不能再加入其他节点的团叫作极大团。马尔可夫随机场为每个团定义一个非负的势函数，衡量这组变量取各种值时的“协调程度”，比如相邻像素颜色相同时势函数的值较大。所有变量的联合概率，正比于所有团的势函数的乘积，再除以一个归一化常数，叫作配分函数，它保证所有概率加起来等于 1。Hammersley-Clifford 定理保证了，对于取值概率都为正的分布，满足马尔可夫性质与可以这样分解是等价的。势函数常常写成指数的形式，这时联合分布就与统计物理中的玻尔兹曼分布形式相同，可以理解为“能量越低的状态概率越高”。

计算上的困难

计算配分函数需要对所有变量的所有可能取值组合进行求和，变量一多，组合数量就会呈指数级增长，通常无法精确计算。这使得马尔可夫随机场的推断和参数学习都比较困难，常用吉布斯采样等马尔可夫链蒙特卡罗方法、循环置信传播、平均场近似等方法进行近似；对于某些特殊的问题，比如二值的图像分割，可以用图割算法高效地求出最优解。

应用

计算机视觉：在图像去噪、图像分割、立体视觉等问题中，马尔可夫随机场用来表达“相邻像素倾向于相似”这一先验，Stuart Geman 和 Donald Geman 在 1984 年的经典论文中用它来进行图像复原，并提出了吉布斯采样方法。统计物理：描述磁性材料的伊辛模型就是一种马尔可夫随机场，每个节点是一个原子的磁矩方向，相邻的原子倾向于方向一致。自然语言处理：条件随机场是马尔可夫随机场的一种判别式变体，由 John Lafferty 等人在 2001 年提出，直接对给定输入时输出标签序列的条件概率建模，被广泛用于分词、词性标注和命名实体识别。此外还被用于空间统计、社交网络分析等领域。玻尔兹曼机和受限玻尔兹曼机也可以看作特殊的马尔可夫随机场。