Ｖｏｌ．２３Ｎｏ．２
Ａｐｒｉｌ２００６
文章编号：１６７１－７８７２（２００６）０２－０１９５－０４安徽工业大学学报第２３卷第２期Ｊ．ｏｆＡｎｈｕｉＵｎｉｖｅｒｓｉｔｙｏｆＴｅｃｈｎｏｌｏｇｙ２００６年４月
贝叶斯网络的发展与展望
王理冬，汪光阳，程泽凯，朱孝宇
（安徽工业大学计算机学院，安徽马鞍山２４３００２）
摘要：目前贝叶斯网络在各种领域得到了广泛的应用。对贝叶斯网络进行了综合性的概述，回顾了贝叶斯网络的发展历史，并对该网络当前研究的领域进行了分析和论述。
关键词：贝叶斯网络；概率分布；变量
中图分类号：ＴＰ３１７文献标识码：Ａ
ＢａｙｅｓｉａｎＮｅｔｗｏｒｋＤｅｖｅｌｏｐｍｅｎｔａｎｄＩｔｓＰｒｏｓｐｅｃｔ
ＷＡＮＧＬｉ－ｄｏｎｇ，ＷＡＮＧＧｕａｎｇ－ｙａｎｇ，ＣＨＥＮＧＺｅ－ｋａｉ，ＺＨＵＸｉａｏ－ｙｕ
（ＳｃｈｏｏｌｏｆＣｏｍｐｕｔｅｒＳｃｉｅｎｃｅ，ＡｎｈｕｉＵｎｉｖｅｒｓｉｔｙｏｆＴｅｃｈｎｏｌｏｇｙ，Ｍａ＇ａｎｓｈａｎ２４３００２，Ｃｈｉｎａ）
Ａｂｓｔｒａｃｔ：ＡｔｐｒｅｓｅｎｔｔｈｅＢａｙｅｓｉａｎｎｅｔｗｏｒｋｓｉｓａｐｐｌｉｅｄｗｉｄｅｌｙｉｎｅａｃｈｆｉｅｌｄ．ＡｎａｌｙｚｅｄｔｈｅｃｏｍｐｒｅｈｅｎｓｉｖｅｓｕｍｍａｒｉｚｅｔｏｔｈｅＢａｙｅｓｉａｎｎｅｔｗｏｒｋｓ，ＲｅｔｒｏｓｐｅｃｔｅｄｔｈｅｄｅｖｅｌｏｐｍｅｎｔｈｉｓｔｏｒｙｏｆｔｈｅＢａｙｅｓｉａｎｎｅｔｗｏｒｋｓ，ａｎｄａｌｓｏａｎａｌｙｚｅｄａｎｄｄｅｐｉｃｔｅｄｔｈｅｃｕｒｒｅｎｔｒｅｓｅａｒｃｈｆｉｅｌｄ．
Ｋｅｙｗｏｒｄｓ：Ｂａｙｅｓｉａｎｎｅｔｗｏｒｋｓ；ｐｒｏｂａｂｉｌｉｔｙｄｉｓｔｒｉｂｕｔｉｏｎ；ｖａｒｉａｂｌｅ
引言
目前在人工智能领域，贝叶斯推理提供了一种概率手段，即假设待考查的变量遵循某概率分布，根据这些概率及已观察到的数据进行推理，以作出最优的决策。在推理的过程中贝叶斯学习算法能够计算显式的假设概率，如较为常用的朴素贝叶斯分类器，分类器必须假定所有变量在给定目标变量值时为条件独立的前提，与此不同的是贝叶斯网络中所表达变量的一个子集上的条件为独立性假定。贝叶斯网络提供一种中间的方法，比朴素贝叶斯分类器中条件独立性的全局假定的限制更少，在所有变量中计算条件依赖更可行［１］。因此，理论和实践中的许多问题都可以通过贝叶斯网建模实现，可见贝叶斯网的应用越来越广。
１贝叶斯网络概述
贝叶斯网络又称为信念网络［２］，是一种对概率关系的有向图解描述，适用于不确定性和概率性事物，应用１．１贝叶斯网络的概念于有条件地依赖多种控制因素的决策，在解决许多实际问题中，需要从不完全的、不精确的或不确定的知识和信息中作出推理。而贝叶斯网络是一种概率推理技术，使用概率理论来处理在描述不同知识成份的条件相关而产生的不确定性，提供了一种将知识直觉的图解可视化的方法。
在贝叶斯网络中，起因的假设和结果的数据均用节点表示，它们之间的联系用有向弧表示。在各变量之间画出它们的因果关系，并将它们用数字编码的形式来描述一个变量可能影响另一个变量的程度。在概率推理中，随机变量用于代表世界上的事物或事件，将这些随机变量实例化成各种实例，就可以对世界上现存的状态进行建模［３］。
１．２贝叶斯网络的组成及语义
收稿日期：２００５－０８－１１
作者简介：王理冬（１９８０－），男，安徽宿松人，硕士研究生。
１９６安徽工业大学学报２００６年由于贝叶斯网络是一种概率图模型［４］，它表示变量之间的联合概率分布（物理的或贝叶斯的），分析变量之间的相互关系，利用贝叶斯定理揭示学习和统计推断功能，实现预测、分类、聚类、因果分析等数据采掘。所以关于一组变量Ｘ＝｛Ｘ１，Ｘ２，…，Ｘｎ｝的贝叶斯网络由两部分组成：（１）一个表示Ｘ中的变量的条件独立断言的网络结构Ｓ；（２）与每一个变量相联系的局部概率分布集合Ｐ。两者定义了Ｘ的联合概率分布。Ｓ是一个有向无环图，Ｓ中的节点一对一地对应于Ｘ中的变量。以Ｘｉ表示变量以及该变量对应的节点，Ｐａｉ表示Ｓ中的Ｘｉ的父节点。Ｓ的节点之间缺省弧线则表示条件独立。Ｘ的联合概率分布表示为：
ｎ
ｐ（ｘ）＝!ｐ（ｘｉ｜ｐａｉ）
ｉ＝１（１）
如果Ｐ表示（２）式中的局部概率分布，即乘积中的项ｐ（ｘｉ｜｜ｐａｉ）（ｉ＝１，２，…，ｎ），则二元组（Ｓ，Ｐ）表示了联合概率分布
（主观的）。当从数据出发进行学习，建ｐ（Ｘ），仅仅从先验信息出发建立贝叶斯网络时，该概率分布是贝叶斯的
立贝叶斯网络时，该概率是物理的（客观的）。
贝叶斯网络的语义定义如下：
（１）贝叶斯网络对给定网络结构Ｓ编码了一组变量Ｘ＝｛Ｘ１，Ｘ２，…，Ｘｎ｝的联合概率分布：
ｎ
ｐ（ｘ）＝!ｐ（ｘｉ｜ｐａｉ）
ｉ＝１
（２）贝叶斯网络表示条件及因果关系。
Ｘｉ对于｛Ｘ１，Ｘ２，…，Ｘｉ－１｝＼ΠＩ条件独立意味着变量Ｘｉ只依赖于变量集｛Ｘ１，Ｘ２，…，Ｘｉ－１｝中的某些变量ΠＩ（ｉ＝１，２，…，ｎ），而与｛Ｘ１，Ｘ２，…，Ｘｉ－１｝＼ΠＩ中的变量无关。前一种情况在贝叶斯网络中表现为变量之间有弧线连接，而后一种表现为变量之间无弧线连接。
（３）贝叶斯网络是概率的分类／回归模型
假设一组变量Ｘ＝｛Ｘ１，Ｘ２，…，Ｘｎ｝的物理联合概率分布可以编码在某个网络结构Ｓ中：
ｈｐ（ｘ｜бＳ，Ｓ）＝!ｐ（ｘｉ｜ｐａｊ，θｉ，Ｓ）ｈ
ｉ＝１ｎ（２）
ｈ其中б）构成的向量；Ｓｈ表示物理联合分布可以依照Ｓ分ｉ是分布ｐ（ｘｉ｜ｐａｊ，θｉ，Ｓ）的参数向量；θＳ是参数组（θ１，θ２，…，θｎ
ｈ解的假设。将分布ｐ（ｘｉ｜ｐａｊ，θ局部分布函数其实是一个概率分类或回ｉ，Ｓ）看成的θｉ函数，并称为局部分布函数。
于是，贝叶斯网络可以看成由条件独立关系组归函数，在离散变量情形下是分类，在连续变量情形下是回归。
成的概率分类／回归模型的集合。如线性回归、扩展的线性回归、概率神经网络、概率决策树等都是该集合的例子。
１．３贝叶斯网络的构造步骤及其优点
贝叶斯网络最终要应用到某个领域中，在该领域中构建贝叶斯网涉及３个步骤：（１）必须分辨出所要建模领域中具有重要性的变量和这些变量的所有可能取值，并以节点表示；（２）判断节点间的依赖或独立关系，并以图的方式表示；（３）获得贝叶斯网定量部分所需要的概率参数，这一过程比较繁琐。贝叶斯网的构建一般要在这３个步骤间反复循环［５］。其结构通常由某个领域专家给出。
贝叶斯网络作为有一种图形化的建模工具，具有一系列的优点［６］：（１）贝叶斯网络将有向无环图与概率理论有机结合，不但具有正式的概率理论基础，同时也具有更加直观的知识表示形式。一方面，它可以将人类所拥有的因果知识直接用有向图自然直观地表示出来，另一方面，也可以将统计数据以条件概率的形式融入到模型中。这样贝叶斯网络就能将人类的先验知识和后验的数据完美地结合，克服框架、语义网络等模型仅能表达处理信息的弱点和神经网络等方法不直观的缺点；（２）贝叶斯网络与一般知识表示方法不同的是对于问题域的建模，当条件或行为等发生变化时，不用对模型进行修正；（３）贝叶斯网络可以图形化表示随机变量间的联合概率，能够处理各种不确定信息；（４）贝叶斯网络没有确定的输入或输出节点，节点之间是相互影响的，任何节点观测值的获取或者对于任何节点的干涉，都会对其它节点造成影响，并可以利用贝叶斯网络推理来进行估计和预测；（５）贝叶斯网络的推理是贝叶斯概率理论的基础，不需要外界的任何推理机制，不但具有理论依据，而且将知识表示与知识推理结合起来，形成统一的整体。
第２期王理冬等：贝叶斯网络的发展与展望１９７２贝叶斯网络的发展与现状
贝叶斯网络具有悠久的历史，早在１７６３年，英国数学家ＴｈｏｍａｓＢａｙｅｓ就提出了基于统计方法的贝叶斯网络的概念。过去１０多年里流行研究采用贝叶斯网络在专家系统中把不确定的专家知识进行编码描述。近年来，研究热点在推理的各种方法和从数据中进行贝叶斯网络学习的各种方法［７］。在标准化方面，微软在研究贝叶斯网络的交换方式，为贝叶斯网络和相关的图式定义一种可交换的文本文件格式。贝叶斯网络的基础理论研究包括算法复杂性、知识工程、知识与表达、学习和推理等方面。
（１）计算复杂性
是研究贝叶斯网络上学习、推理的算法复杂度。主要的研究包括：学习贝叶斯网络、使用贝叶斯网络的概率推理、在贝叶斯网络上的近似概率推理以及为贝叶斯网络寻找图解都是ＮＰ难题［８］。
（２）知识工程和维护
涉及推理的性能、灵敏度、网络冲突、概率引导以及故障查找等，主要研究包括：结合定性和定量信息贝叶斯网络的概率引导、优先信息提高贝叶斯图解模型的推断性能、具有中间状态的诊断推理灵敏度、造成两部分网络作为假想模型用于贝叶斯网络上冲突检测、利用不完整知识和多余描述的对象识别、贝叶斯网络在条件概率上的灵敏度分析以及决策理论故障查找的一种用于维护和实验的结构等。
（３）知识结构和表达
主要研究贝叶斯网络结构、反真实性、独立性以及短暂性。贝叶斯网络结构以计算概率密度函数、定性概率网络的推理以及在不确定性条件下的决策扩展影响图的表达。
反真实性表达若Ａ为真，则Ｃ亦为真。表达独立性的有：有约束边界的均衡贝叶斯网络结构特性、通过概率相似网络的条件概率、在贝叶斯网络中前后关系明确的独立性、反馈因果图中的独立性、通过独立超立方体的条件独立性以及在贝叶斯网络中涉及独立事实的充分完整性和可靠性。表达短暂性的有：在不确定性下行为和变化的推理框架的行为网络、依据内源和外源变化的概率性短暂推理以及关于概率性短暂信息的短暂贝叶斯网络［９］。
（４）学习
主要涉及学习的算法，如归纳、估计，链图等。有关的研究包括：使用模拟数据集合的贝叶斯网络的归纳学习，关于质量测量的贝叶斯网络学习算法的特性，用于学习的系列链图，研究参数独立性的学习贝叶斯网络，在随机域中使用估计方法学习，学习贝叶斯网络的样本复杂度，采用局部结构学习贝叶斯网络，以及用于神经连接的对数模型的贝叶斯学习。
（５）推理
推理采用的算法包括修正算法和更新算法，许多方法都是同时适用于修正算法和更新算法的。
修正算法包括常用的整数规划、Ａ＊，遗传算法以及消息传递等，其研究主要包括：转换贝叶斯网络为基于代价的推论而后通过整数规划解决的动态图计算以及无能量函数的快速爬山法（是近似和精确的）；转换贝叶斯网络为价值基础的推论而后通过Ａ＊解决它们：复杂不确定系统的一种遗传算法决策支持工具（近似的）；推理多重连接的贝叶斯网络则属于无反馈的消息传递；还有簇式搜索法在图形结构上的概率局部计算。
更新算法中采用的推理方法则较广泛，包括了常用的列举法、消息传递、随机法、随机模拟法、取系数法、条件法、环状子集法、簇式图、符号概率推理法和快速贝叶斯网络更新法等。这类研究包括：列举法的在近似贝叶斯网络推理上的错误估计（近似的）和通过列举高概率的独立任务的贝叶斯网络更新算法来最大化概率集。消息传递在概率网络上的对数时间更新和查询。随机法使用分层模拟方法的马可夫链改进取样法和在大型概率性专家系统中划分条块的节点树随机抽样法（近似的）。随机模拟的适用动态概率网络的一般概率推理模拟方法（近似的）。取系数法在贝叶斯网络上的高效推理的整合优化。条件法适用动态条件和限制条件的稀少信息条件下决策的灵活推理和适用因果网络的精确和近似推理的条件算法［１０］。使用环状子集的多重连接贝叶斯网络的概率推理。簇式图的论述转换方法不考虑三角划分的分簇法和在图形结构上概率的局部计算。３贝叶斯网络的展望
由于贝叶斯网络具有很多的优点，所以贝叶斯网络很快就成为人工智能领域进行不确定推理和建模的
１９８安徽工业大学学报２００６年一个有效工具。利用贝叶斯网络对于事件或者属性间的带有不确定性的相互关系进行建模和推理在医学诊断、自然语言理解、故障诊断、启发式搜索、图象解释、目标识别以及不确定推理和预测等方面产生了很多成功的应用，这些应用大致可以分为建立系统模型以辅助决策、实现特征融合以及进行分类的数据分析３大类。因此，贝叶斯网络在医学、经济、网络等领域将有巨大的研究和应用前景。
参考文献：
［１］ＴｏｍＭ．Ｍｉｔｃｈｅｌｌ（美），曾华军，张银奎，等．机器学习［Ｍ］．北京：机械工业出版社，２００４．
［２］ＪｅｎｓｅｎＦＶ．ＡｎＩｎｔｒｏｄｕｃｔｉｏｎｔｏＢａｙｅｓｉａｎＮｅｔｗｏｒｋｓ［Ｍ］．ＮｅｗＹｏｒｋ：Ｓｐｒｉｎｇｅｒ，１９９６．
贝叶斯网络与认识［Ｊ］．自动化学报，２００１，２７（４）：５５２－５６６．［３］刘志强．因果关系、
［４］薛万欣，刘大有，张弘．Ｂａｙｅｓｉａｎ网中概率参数学习方法［Ｊ］．电子学报，２００３，１１（１１）：１６８６－１６８９．
［５］贺炜，潘泉，张洪才．贝叶斯网络结构学习的发展与展望［Ｊ］．信息与控制，２００４，４（２）：１８５－１９０．
［６］ＪｅｎｓｅｎＦＶ．ＡｎＩｎｔｒｏｄｕｃｔｉｏｎｔｏＢａｙｅｓｉａｎＮｅｔｗｏｒｋｓａｎｄＤｅｃｉｓｉｏｎＧｒａｐｈｓ［Ｍ］，ＮｅｗＹｏｒｋ：Ｓｐｒｉｎｇｅｒ，２００１．
［７］慕春棣，戴剑彬，叶俊．用于数据挖掘的贝叶斯网络［Ｊ］．软件学报，２０００，１１（５）：６６０－６６６．
［８］ＣｈｉｃｋｅｒｉｎｇＤＭ．ＬｅａｒｎｉｎｇＢａｙｅｓｉａｎｎｅｔｗｏｒｋｓｉｓＮＰ／２ｃｏｍｐｌｅｔｅ［Ａ］．ＬｅａｒｎｉｎｇｆｒｏｍＤａｔａ：ＡＩａｎｄＳｔａｔｉｓｔｉｃｓＶ［Ｍ］．ＮｅｗＹｏｒｋ：Ｓｐｒｉｎｇｅｒ，１９９６：１２１－１３０．
［９］胡兆勇，屈梁生．一种贝叶斯诊断网络的拓扑结构［Ｊ］．西安交通大学学报，２００３，１１（１１）：１５６－１５７．
［１０］詹原瑞，谢秋平，李雪．贝叶斯网络在因果图中的应用［Ｊ］．管理工程学报，２００３（２）：７６－１９．（上接１９１页）
３结束语
可见数字水印显性地表明了图像的所有者并且达到宣传效果，不可见数字水印可以确保所有者的版权，在版权纠纷中提供法律依据。文中基于结合２种水印方法提出了一种双数字图像水印技术，即在一个原始图像中同时嵌入可见水印与不可见水印。使用双水印技术对图像进行版权标注的同时又可以实现图像的版权保护。
参考文献：
［１］ＨｕＹＪ，ＷｏｎｇＳＫ．Ｗａｖｅｌｅｔｄｏｍａｉｎａｄａｐｔｉｖｅｗｉｓｉｂｌｅｗａｔｅｒｍａｒｋｉｎｇ［Ｊ］．ＥｌｅｃｔｒｏｎＬｅｔｔ，２００１，３７（２０）：１２２０－１２４９．
［２］ＣｈｅｎＰＭ．Ａｖｉｓｉｂｌｅｗａｔｅｒｍａｒｋｉｎｇｍｅｃｈａｎｉｓｍｕｓｉｎｇａｓｔａｔｉｓｔｉｃａｐｐｒｏａｃｈ［Ｊ］．ＰｒｏｃＩＥＥＥ５ｔｈＩｎｔＣｏｎｆｏｎＳｉｇｎａｌＰｒｏｃｅｓｓｉｎｇ，２０００，２（９）：１０－９１３．
［３］ＫａｎｋａｎｈａｌｌｉＭＳ，ＲａｊｍｏｈａｎＫＲＲａｍａｋｒｉｓｈｎａｎ．Ａｄａｐｔｉｖｅｖｉｓｉｂｌｅｗａｔｅｒｍａｒｋｉｎｇｏｆｉｍａｇｅｓ［Ｊ］．ＰｒｏｃＩＥＥＥＩｎｔ，Ｃｏｍｆ，ＯｎＭｕｌｔｉｍｅｄｉａＣｏｍｐｕｔｉｎｇａｎｄＳｙｓｔｅｍｓ，１９９９（２）：１１９７－１２０７．
［４］扬树国，李春霞．小波域内图像零水印技术的研究［Ｊ］．中国图像图形学报，２００３，８（６）：６６４－６６９．
［５］黄达人．小波变换域图像水印嵌入对策和算法［Ｊ］．软件学报，２００２，１３（７）：１２９０－１２９７．
［６］Ｚｈｅ－ＭｉｎｇＬｕ，Ｈａｏ－ＴｉａｎＷＵ，Ｄｉａｎ－ＧｕｏＸＵ．ＡＭｕｌｔｉｐｕｒｐｏｓｅＩｍａｇｅＷａｔｅｒｍａｒｋｉｎｇＭｅｔｈｏｄｆｏｒＣｏｐｙｒｉｇｈｔＮｏｔｉｆｉｃａｔｉｏｎａｎｄＰｒｏｔｅｃｔｉｏｎ［Ｊ］．ＩＥＩＣＥＴＲＡＮＳ，Ｉｎｆ＆Ｓｙｓｔ，２００３，Ｅ８６－Ｄ（９）：５２２－５１９．
［７］成礼智，王红霞，罗永．小波的理论与应用［Ｍ］．北京：科学出版社，２００４．
［８］张晓峰，段会龙．基于小波变换的图像水印嵌入方法［Ｊ］．计算机工程与应用，２００４（１１）：６４－６５．