条件独立性假设是什么，什么叫条件独立概率

本文目录一览

1，什么叫条件独立概率
2，条件概率独立性判断的问题
3，概率证明题证明条件独立
4，项目反应理论的IRT的理论体系三条基本假设
5，用于数据挖掘的分类算法有哪些各有何优劣

1，什么叫条件独立概率

两个事件关于某一个事件乘积的概率，等于条件概率的积。P(AB/C)=P(A/C)P(B/C)则A、B条件独立。

如果在独立链中各个语言的成分出现的概率不相等，（有的出现的概率高，有的出现的概率低）那么这种概率叫做不等概率独立链。

什么叫条件独立概率

2，条件概率独立性判断的问题

如A与B独立那p(b/a)=p(b), p(-b/-a)=p(-b)p(b)+p(-b)=1所以原假设成立

你好：条件概率满足概率的一切性质：所以p（aub|c）=p(a|c)+p(b|c)-p(ab|c)如果满意，请采纳，谢谢。

条件概率独立性判断的问题

3，概率证明题证明条件独立

如果E,I 是条件独立的，p(A,E,I) = p(e)p(i/e)p(a/e,i)因为 p(A,E,I) = p(E)p(I)p(A|E,I)p(i/e)=p(I) 所以E,I 并不是条件独立的。是对事件独立概念的理解用反证法

P(E,I|A)=P(A,E,I)/P(A)=P(E)P(I)*P(A|E,I)/P(A)因为A 和EI不独立P(A|E,I)显然不等于P(A)所以P(E,I|A)也不等于P(E)P(I)即结论

概率证明题证明条件独立

4，项目反应理论的IRT的理论体系三条基本假设

– 假设一：能力单维性假设——指组成某个测验的所有项目都是测量同一潜在特质；– 假设二：局部独立性假设——指对某个被试而言，项目间无相关存在；– 假设三：项目特征曲线假设——指对被试某项目的正确反映概率与其能力之间的函数关系所作的模型。IRT最大的优点是题目参数的不变性，即题目参数的估计独立于被试组。它假定，被试在某一试题上的成绩不受他在测验中其他试题上的成绩影响；同时，在试题上各个被试的作答也是彼此独立的，仅由各被试的潜在特质水平所决定，一个被试的成绩不影响另一被试的成绩，这就叫做局部独立性假设。IRT理论所做出的一切推论都必须以局部独立性假设为前提。

5，用于数据挖掘的分类算法有哪些各有何优劣

常见的机器学习分类算法就有，不常见的更是数不胜数，那么我们针对某个分类问题怎么来选择比较好的分类算法呢？下面介绍一些算法的优缺点：1. 朴素贝叶斯比较简单的算法，所需估计的参数很少，对缺失数据不太敏感。如果条件独立性假设成立，即各特征之间相互独立，朴素贝叶斯分类器将会比判别模型，如逻辑回归收敛得更快，因此只需要较少的训练数据。就算该假设不成立，朴素贝叶斯分类器在实践中仍然有着不俗的表现。如果你需要的是快速简单并且表现出色，这将是个不错的选择。其主要缺点现实生活中特征之间相互独立的条件比较难以实现。2. 逻辑回归模型训练时，正则化方法较多，而且你不必像在用朴素贝叶斯那样担心你的特征是否相关。与决策树与支持向量机相比，逻辑回归模型还会得到一个不错的概率解释，你甚至可以轻松地利用新数据来更新模型（使用在线梯度下降算法）。如果你需要一个概率架构（比如简单地调节分类阈值，指明不确定性，获得置信区间），或者你以后想将更多的训练数据快速整合到模型中去，逻辑回归是一个不错的选择。3. 决策树决策树的分类过程易于解释说明。它可以毫无压力地处理特征间的交互关系并且是非参数化的，因此你不必担心异常值或者数据是否线性可分。它的一个缺点就是不支持在线学习，于是在新样本到来后，决策树需要全部重建。另一个缺点是容易过拟合，但这也就是诸如随机森林（或提升树）之类的集成方法的切入点。另外，随机森林经常是多分类问题的赢家（通常比支持向量机好上那么一点），它快速并且可调，同时你无须担心要像支持向量机那样调一大堆参数，所以随机森林相当受欢迎。4. 支持向量机高准确率，为避免过拟合提供了很好的理论保证，而且就算数据在原特征空间线性不可分，只要给个合适的核函数，它就能运行得很好。在超高维的文本分类问题中特别受欢迎。可惜内存消耗大，难以解释，运行和调参也有些烦人，所以我认为随机森林要开始取而代之了。但是，好的数据却要优于好的算法，设计优良特征比优良的算法好很多。假如你有一个超大数据集，那么无论你使用哪种算法可能对分类性能都没太大影响（此时就根据速度和易用性来进行抉择）。如果你真心在乎准确率，你一定得尝试多种多样的分类器，并且通过交叉验证选择最优。

1. 朴素贝叶斯(naive bayes, nb)超级简单，就像做一些数数的工作。如果条件独立假设成立的话，nb将比鉴别模型（如logistic回归）收敛的更快，所以你只需要少量的训练数据。即使条件独立假设不成立，nb在实际中仍然表现出惊人的好。如果你想做类似半监督学习，或者是既要模型简单又要性能好，nb值得尝试。2. logistic回归(logistic regression, lr)lr有很多方法来对模型正则化。比起nb的条件独立性假设，lr不需要考虑样本是否是相关的。与决策树与支持向量机（svm）不同，nb有很好的概率解释，且很容易利用新的训练数据来更新模型（使用在线梯度下降法）。如果你想要一些概率信息（如，为了更容易的调整分类阈值，得到分类的不确定性，得到置信区间），或者希望将来有更多数据时能方便的更新改进模型，lr是值得使用的。3.决策树（decision tree, dt）dt容易理解与解释。dt是非参数的，所以你不需要担心野点（或离群点）和数据是否线性可分的问题（例如，dt可以轻松的处理这种情况：属于a类的样本的特征x取值往往非常小或者非常大，而属于b类的样本的特征x取值在中间范围）。dt的主要缺点是容易过拟合，这也正是随机森林（random forest, rf）（或者boosted树）等集成学习算法被提出来的原因。此外，rf在很多分类问题中经常表现得最好（我个人相信一般比svm稍好），且速度快可扩展，也不像svm那样需要调整大量的参数，所以最近rf是一个非常流行的算法。4.支持向量机（support vector machine, svm）很高的分类正确率，对过拟合有很好的理论保证，选取合适的核函数，面对特征线性不可分的问题也可以表现得很好。svm在维数通常很高的文本分类中非常的流行。由于较大的内存需求和繁琐的调参，我认为rf已经开始威胁其地位了。