数学之美 系列十九 - 马尔可夫链的扩展 贝叶斯网络 (Bayesian Networks)
2007年1月28日 下午 09:53:00
发表者:Google 研究员,吴军
我们在前面的系列中多次提到马尔可夫链 (Markov
Chain),它描述了一种状态序列,其每个状态值取决于前面有限个状态。这种模型,对很多实际问题来讲是一种很粗略的简化。在现实生活中,很多事物相互的关系并不能用一条链来串起来。它们之间的关系可能是交叉的、错综复杂的。比如在下图中可以看到,心血管疾病和它的成因之间的关系是错综复杂的。显然无法用一个链来表示。
我们可以把上述的有向图看成一个网络,它就是贝叶斯网络。其中每个圆圈表示一个状态。状态之间的连线表示它们的因果关系。比如从心血管疾病出发到吸烟的弧线表示心血管疾病可能和吸烟有关。当然,这些关系可以有一个量化的可信度 (belief),用一个概率描述。我们可以通过这样一张网络估计出一个人的心血管疾病的可能性。在网络中每个节点概率的计算,可以用贝叶斯公式来进行,贝叶斯网络因此而得名。由于网络的每个弧有一个可信度,贝叶斯网络也被称作信念网络 (belief networks)。
和马尔可夫链类似,贝叶斯网络中的每个状态值取决于前面有限个状态。不同的是,贝叶斯网络比马尔可夫链灵活,它不受马尔可夫链的链状结构的约束,因此可以更准确地描述事件之间的相关性。可以讲,马尔可夫链是贝叶斯网络的特例,而贝叶斯网络是马尔可夫链的推广。
使用贝叶斯网络必须知道各个状态之间相关的概率。得到这些参数的过程叫做训练。和训练马尔可夫模型一样,训练贝叶斯网络要用一些已知的数据。比如在训练上面的网络,需要知道一些心血管疾病和吸烟、家族病史等有关的情况。相比马尔可夫链,贝叶斯网络的训练比较复杂,从理论上讲,它是一个 NP-complete 问题,也就是说,对于现在的计算机是不可计算的。但是,对于某些应用,这个训练过程可以简化,并在计算上实现。
值得一提的是 IBM Watson 研究所的茨威格博士 (Geoffrey Zweig) 和西雅图华盛顿大学的比尔默 (Jeff Bilmes) 教授完成了一个通用的贝叶斯网络的工具包,提供给对贝叶斯网络有兴趣的研究者。
贝叶斯网络在图像处理、文字处理、支持决策等方面有很多应用。在文字处理方面,语义相近的词之间的关系可以用一个贝叶斯网络来描述。我们利用贝叶斯网络,可以找出近义词和相关的词,在 Google 搜索和 Google 广告中都有直接的应用。
分享到:
相关推荐
MATLAB算法-马尔可夫链蒙特卡洛算法详解,附代码
matlab开发-马尔可夫链和多名义期权定价的一个示例。二元认沽期权中双障碍敲除定价的一个样本
第三章-马尔可夫链..pdf
数学建模学习方法-马尔可夫过程
本文提出了一种基于马尔可夫链理论的累积损伤概率模型,以模拟烃类输送管道内部局部腐蚀深度的传播。 损害累积机制为单位跳跃型,具体取决于状态。 它使用基于伯努利试验和保持相同状态或下一个状态的概率的冲击模型...
数学建模-马尔科夫-马尔可夫过程
为了准确判断和预测激光超声复合超精密车削过程中刀具的磨损状况及磨损趋势,基于激光超声复合超精密车削刀具后刀面磨损试验数据,应用灰色-马尔可夫理论建立了激光超声复合超精密车削刀具磨损量灰色预测模型及灰色-...
hb-马尔可夫链
研究了一种基于动态贝叶斯网络(dynamic bayesian networks, DBN)的语音识别建模方法,利用GMTK(graphical model tool kits)工具构建音素级音频流DBN语音训练和识别模型,同时与传统的基于隐马尔可夫的语音识别...
针对目前主流的时间相关性数据预测算法在数据波动大时预测精度低的问题,引入Delaunay三角形邻近图来度量网络中监测数据的空间相关性,并提出基于马尔可夫链的空间相关性数据预测算法。实验表明,该算法可以在数据...
北航六系大作业,大作业必备,实现利器,相当有用,有代码,可以参考
二阶马尔可夫链1
探讨了高阶马尔可夫链模型中周期对极限分布的影响, 分析了高阶模型中多步转移概率矩阵的连通性与链的平稳分布的关系, 证明了高阶马尔可夫链平稳分布的存在性与唯一性条件...
针对尼日利亚阿克瓦伊博姆州的使徒信仰中学,开发了基于马尔可夫链的入学预测模型。 研究了六年的数据(在2008 / 2009-2013 / 2014学年之间)。 研究表明,各个年级的入学情况不稳定且有序。 该模型在中学入学方面有...
价格,售出物品,负面反馈,正面反馈或没有反馈的影响主要通过eBay研究在线市场引擎。 建立随机游走类型模型以衡量卖家对业务产生负面影响的持续时间,以扭转这种情况。 这项研究基于eBay的数据,在这些数据中,价格...
MATLAB工具箱大全- 马尔可夫决策过程 (MDP) 工具箱MDPtoolbox
论文研究-基于隐马尔可夫模型的array-CGH数据贝叶斯分析.pdf, 微阵列比较基因组杂化(comparative genomic hybridization, CGH)技术是用于发现DNA拷贝数变异的重要技术. ...
matlab开发-马尔可夫决策过程摆度控制。建立了摆锤的马尔可夫决策过程模型,然后找到了摆锤的最优上摆策略。
神经网络-马尔可夫模型在河道生态用水中的应用.pdf
这是马尔可夫链在图像中的应用,文章用马尔科夫链对图像进行了识别