当前位置: 首页 > news >正文

深圳网站建设 响应式设计开发宁德市安全教育平台

深圳网站建设 响应式设计开发,宁德市安全教育平台,做系统后怎么找回网站收藏夹,搜索引擎营销实践报告目录 一、前言 二、贝叶斯算法原理解析 1、贝叶斯公式 2、朴素贝叶斯算法 3、计算步骤 4、例题: (1)、 计算先验概率 (2)、计算条件概率 (3)、计算后验概率 (4)…

目录

一、前言

二、贝叶斯算法原理解析

1、贝叶斯公式

2、朴素贝叶斯算法

3、计算步骤

4、例题:

(1)、 计算先验概率

(2)、计算条件概率

(3)、计算后验概率

(4)、比较后验概率选出答案

三、贝叶斯算法在机器学习中的应用

1、API接口

2、代码演示

3、结果展示 

4、贝叶斯算法的优缺点

(1)、优点

(2)、缺点

四、总结


一、前言

贝叶斯算法起源于18世纪英国数学家托马斯·贝叶斯(Thomas Bayes)提出的贝叶斯定理,经过几个世纪的发展,逐渐成为统计学和机器学习中的重要工具。其核心原理是基于条件概率,通过先验知识和新观测数据相结合,计算后验概率,从而实现对事件概率的动态更新。

常见的贝叶斯算法包括朴素贝叶斯分类器、贝叶斯网络、贝叶斯优化和贝叶斯滤波等。朴素贝叶斯分类器广泛应用于文本分类和垃圾邮件过滤;贝叶斯网络用于建模变量间的复杂概率关系;贝叶斯优化用于高效优化黑箱函数;贝叶斯滤波则在信号处理和机器人定位中发挥重要作用。

贝叶斯算法的用途广泛,涵盖了从自然语言处理、推荐系统到医学诊断和金融预测等多个领域。其优势在于能够灵活结合先验知识和数据,但同时也面临计算复杂度高和先验选择主观性等挑战。随着计算能力的提升和算法的优化,贝叶斯方法在现代数据科学中继续发挥着重要作用。

二、贝叶斯算法原理解析

贝叶斯算法的核心思想是通过不断更新先验概率,结合新的数据,得到更准确的后验概率。这一特性使其在处理不确定性和噪声数据时表现出色。常见的贝叶斯算法包括朴素贝叶斯分类器、贝叶斯网络、贝叶斯优化和贝叶斯滤波等。

1、贝叶斯公式

其中:

  • P(A∣B)是在事件B发生的条件下事件A发生的概率,称为后验概率。它反映了我们在考虑新信息后对某个事件或类别的信念或认知的变化。

    • 例子:在垃圾邮件过滤中,P(垃圾邮件∣包含“免费”一词)表示在邮件包含“免费”一词的条件下,该邮件是垃圾邮件的概率。

  • P(B∣A)是在事件A发生的条件下事件B发生的概率,称为似然

    • 例子:在垃圾邮件过滤中,P(包含“免费”一词∣垃圾邮件) 表示在邮件是垃圾邮件的条件下,邮件中包含“免费”一词的概率。

  • P(A) 是事件A发生的先验概率。先验概率通常是我们对某个事件或类别的初始认知或假设。

    • 例子:先验概率 P(垃圾邮件) 表示在没有分析邮件内容之前,某封邮件是垃圾邮件的初始概率(例如,根据历史数据,垃圾邮件占总邮件的20%)。

  • P(B) 是事件B发生的边际概率

    • 例子:在垃圾邮件过滤中,P(包含“免费”一词)表示所有邮件中包含“免费”一词的总概率,无论邮件是否是垃圾邮件。

2、朴素贝叶斯算法

朴素贝叶斯分类器(Naive Bayes Classifier) 是一种基于贝叶斯定理的简单概率分类算法,广泛应用于文本分类、垃圾邮件过滤、情感分析等任务。它的“朴素”体现在假设所有特征之间相互独立,尽管这一假设在现实中往往不成立,但朴素贝叶斯分类器在许多实际应用中表现优异,尤其是在高维数据(如文本数据)中。

由于朴素贝叶斯假设特征之间相互独立,似然 P(B∣A)可以分解为:

P(B∣A)=P(x1​∣A)⋅P(x2​∣A)⋅…⋅P(xn​∣A)

其中 x1,x2,…,xnx1​,x2​,…,xn​ 是输入特征的各个维度。

3、计算步骤

  • 计算先验概率:基于训练数据,计算每个类别的先验概率 P(A)。

  • 计算似然:对于每个特征,计算在给定类别下的条件概率 P(xi∣A)。

  • 计算后验概率:对于新的输入样本,利用贝叶斯定理计算每个类别的后验概率。

  • 选择最大概率类别:将后验概率最大的类别作为预测结果。

4、例题:

假设我们有一个简单的二分类问题,数据集如下表所示。目标是利用朴素贝叶斯分类器预测一个新样本的类别。

编号特征1(颜色)特征2(根蒂)类别
1青绿蜷缩好瓜
2乌黑蜷缩好瓜
3青绿硬挺坏瓜
4浅白蜷缩坏瓜
5乌黑稍蜷好瓜
6青绿稍蜷好瓜
7浅白硬挺坏瓜
8乌黑硬挺坏瓜

现在有一个新样本:颜色=青绿,根蒂=蜷缩,请预测其类别。


解题步骤

(1)、 计算先验概率
  • P(好瓜)=4/8=0.5

  • P(坏瓜)=4/8=0.5  

(2)、计算条件概率

对于每个特征,计算在给定类别下的条件概率。

特征1:颜色

  • P(颜色=青绿∣好瓜)=2/4=0.5
  • P(颜色=青绿∣坏瓜)=1/4=0.25

特征2:根蒂

  • P(根蒂=蜷缩∣好瓜)=2/4=0.5
  • P(根蒂=蜷缩∣坏瓜)=1/4=0.25
(3)、计算后验概率

P(好瓜|颜色=青绿,根蒂=蜷缩) =P(好瓜)*P(颜色=青绿∣好瓜)*P(根蒂=蜷缩∣好瓜)/P(颜色=青绿,根蒂=蜷缩)

=0.5 * 0.5 * 0.5 = 0.125/P(颜色=青绿,根蒂=蜷缩)

P(坏瓜|颜色=青绿,根蒂=蜷缩) =P(坏瓜)*P(颜色=青绿∣坏瓜)*P(根蒂=蜷缩∣坏瓜)/P(颜色=青绿,根蒂=蜷缩)

 =0.5 * 0.25 * 0.25 = 0.03125/P(颜色=青绿,根蒂=蜷缩)

(4)、比较后验概率选出答案

因为0.125 > 0.03125,且分母相同

所以颜色=青绿,根蒂=蜷缩时预测为好瓜

三、贝叶斯算法在机器学习中的应用

以多项式朴素贝叶斯为例

1、API接口

from sklearn.naive_bayes import MultinomialNB
MultinomialNB(alpha=1.0, fit_prior=True, class_prior=None)
参数名类型默认值说明
alpha浮点数1.0平滑参数(拉普拉斯平滑/Lidstone平滑),避免零概率问题。
fit_prior布尔值True是否从数据中学习类别的先验概率。若为 False,则使用均匀分布。
class_prior数组或列表None手动指定类别的先验概率。若为 None,则从数据中学习。

2、代码演示

以sklearn自带的手写数字数据集为例

import matplotlib.pyplot as plt
from sklearn.metrics import confusion_matrix
from sklearn import metrics# 可视化混淆矩阵
def cm_plot(y, yp):cm = confusion_matrix(y, yp)  # 计算混淆矩阵plt.matshow(cm, cmap=plt.cm.Blues)  # 使用蓝色调绘制混淆矩阵plt.colorbar()  # 添加颜色条for x in range(len(cm)):for y in range(len(cm)):# 在每个单元格中标注数值plt.annotate(cm[x, y], xy=(x, y), horizontalalignment='center', verticalalignment='center')plt.ylabel('True label')  # 设置y轴标签plt.xlabel('Predicted label')  # 设置x轴标签return plt
# 数据预处理
data = load_digits()
x = data.data
y = data.target
x_train,x_test,y_train,y_test = train_test_split(x,y,test_size=0.2,random_state=0)
# 创建贝叶斯分类器
cf = MultinomialNB()
# 训练
cf.fit(x_train,y_train)# 自测
pr1 = cf.predict(x_train)
# 绘制混淆矩阵
cm_plot(y_train,pr1).show()
# 预测
pr2 = cf.predict(x_test)
# 绘制混淆矩阵
cm_plot(y_test,pr2).show()
print('准确率:',cf.score(x_test,y_test))
print(metrics.classification_report(y_test,pr2))

3、结果展示 

4、贝叶斯算法的优缺点

(1)、优点

理论基础坚实:贝叶斯算法基于贝叶斯定理,它为概率模型的学习和推理提供了明确的理论框架。

易于实现:贝叶斯算法的逻辑简单,只要使用贝叶斯公式转化即可,因此易于实现。

分类过程中时空开销小:贝叶斯算法假设特征之间相互独立,因此在分类过程中,只会涉及到二维存储,大大降低了时空开销。

易于并行化:贝叶斯算法可以很方便地进行并行化处理,提高计算效率。

(2)、缺点

假设前提:贝叶斯算法假设样本特征彼此独立,这个假设在实际应用中往往是不成立的,尤其在属性个数比较多或者属性之间相关性较大时,分类效果不好。

对噪声敏感:如果数据中存在大量噪声,贝叶斯算法可能会表现不佳。

模型选择:贝叶斯算法需要对模型进行正确的选择,如果模型选择不当,可能会导致算法性能下降。

高维特征空间的应用限制:贝叶斯算法在处理高维特征空间时可能会遇到困难,因为高维空间中的数据通常具有稀疏性,这会导致贝叶斯网络的学习和推理变得非常困难。

四、总结

 贝叶斯算法提供了一种基于概率的推理框架,能够处理各种不确定性和复杂性。在现实世界的数据集中,特征之间的依赖关系、类别的模糊性等问题往往难以避免。贝叶斯算法通过计算条件概率来估计类别的后验概率,从而能够在这些不确定性中找到最可能的分类结果。

贝叶斯算法具有坚实的数学理论基础,其推导过程清晰且易于理解。这使得贝叶斯算法在实际应用中具有较高的可靠性和稳定性。同时,贝叶斯算法的计算过程相对简单,使得它能够在处理大规模数据集时保持较高的效率。

贝叶斯算法在文本分类、情感分析、推荐系统等多个领域都有广泛的应用。通过结合具体场景和数据特点,贝叶斯算法能够发挥出强大的分类和预测能力,为机器学习应用提供有力的支持。


文章转载自:
http://infuscate.xzLp.cn
http://oversight.xzLp.cn
http://coercion.xzLp.cn
http://outdated.xzLp.cn
http://weatherproof.xzLp.cn
http://stylostixis.xzLp.cn
http://seventhly.xzLp.cn
http://expandable.xzLp.cn
http://ornamental.xzLp.cn
http://talea.xzLp.cn
http://equipment.xzLp.cn
http://heterospory.xzLp.cn
http://erubescent.xzLp.cn
http://deforest.xzLp.cn
http://biomaterial.xzLp.cn
http://cocarboxylase.xzLp.cn
http://sibilance.xzLp.cn
http://grot.xzLp.cn
http://limmer.xzLp.cn
http://haematozoon.xzLp.cn
http://playbus.xzLp.cn
http://gingivectomy.xzLp.cn
http://homestretch.xzLp.cn
http://effervescence.xzLp.cn
http://snowflake.xzLp.cn
http://legitimism.xzLp.cn
http://berkeleian.xzLp.cn
http://gentisate.xzLp.cn
http://irrepealable.xzLp.cn
http://mandamus.xzLp.cn
http://marksman.xzLp.cn
http://vivisectionist.xzLp.cn
http://lorry.xzLp.cn
http://graphemic.xzLp.cn
http://milepost.xzLp.cn
http://jesu.xzLp.cn
http://hydrogenolysis.xzLp.cn
http://wanton.xzLp.cn
http://boffin.xzLp.cn
http://semble.xzLp.cn
http://allele.xzLp.cn
http://frostbitten.xzLp.cn
http://supersell.xzLp.cn
http://lunokhod.xzLp.cn
http://sometimes.xzLp.cn
http://inbreaking.xzLp.cn
http://crocus.xzLp.cn
http://delivery.xzLp.cn
http://sweatshop.xzLp.cn
http://zooparasite.xzLp.cn
http://dopester.xzLp.cn
http://tussive.xzLp.cn
http://likeable.xzLp.cn
http://mcat.xzLp.cn
http://freeloader.xzLp.cn
http://targum.xzLp.cn
http://pandit.xzLp.cn
http://stipule.xzLp.cn
http://bourgeoisify.xzLp.cn
http://resultative.xzLp.cn
http://pulaski.xzLp.cn
http://scuta.xzLp.cn
http://viomycin.xzLp.cn
http://plumbum.xzLp.cn
http://teachableness.xzLp.cn
http://nobbut.xzLp.cn
http://tetrafunctional.xzLp.cn
http://helmsman.xzLp.cn
http://souari.xzLp.cn
http://nitrosamine.xzLp.cn
http://phillida.xzLp.cn
http://cellaret.xzLp.cn
http://lutine.xzLp.cn
http://inevasible.xzLp.cn
http://plaguily.xzLp.cn
http://brail.xzLp.cn
http://adenohypophysis.xzLp.cn
http://iu.xzLp.cn
http://teheran.xzLp.cn
http://insignia.xzLp.cn
http://unsympathizing.xzLp.cn
http://bordello.xzLp.cn
http://estrus.xzLp.cn
http://pressingly.xzLp.cn
http://jokingly.xzLp.cn
http://vinton.xzLp.cn
http://dodgy.xzLp.cn
http://persuasible.xzLp.cn
http://resounding.xzLp.cn
http://overknee.xzLp.cn
http://unostentatious.xzLp.cn
http://depollute.xzLp.cn
http://parthian.xzLp.cn
http://flite.xzLp.cn
http://centrality.xzLp.cn
http://keeno.xzLp.cn
http://jurisprudence.xzLp.cn
http://envelop.xzLp.cn
http://immunodeficiency.xzLp.cn
http://outlain.xzLp.cn
http://www.15wanjia.com/news/67771.html

相关文章:

  • 做网站运营需要什么证自己怎么免费做百度推广
  • yandex搜索引擎入口seo零基础教学
  • 管理网站用什么系统好刚刚北京传来重大消息
  • 网站改版 文案网站关键词在哪里看
  • 网站开发工程师工作内容网店网络营销与推广策划书
  • 做阿里巴巴网站要多少钱游戏推广赚钱
  • 徐州网站建设咨询百度快照怎么看
  • 做网站javaee杭州网络整合营销公司
  • bbc网站建设合肥seo推广公司哪家好
  • ptp网站开发北京seo服务销售
  • 柳市网站建设哪家好长尾词seo排名
  • 动态表白网页在线制作seo网上培训多少钱
  • 哈尔滨精品建站百度收录什么意思
  • 广州站关键词推广方式
  • 网站设计 卡片式设计360公司官网首页
  • 郑州宣传片制作网站排名优化推广
  • 做彩票交流网站犯法吗网站建设培训
  • 广州低价网站建设seo导航
  • 目前做哪些网站能致富苏州网络推广seo服务
  • 导航网站教程常州网络推广seo
  • 动态网站建设实训要求今日最新国际新闻头条
  • 莲塘网站建设林哥seo
  • 网站建设的开发工具域名搜索引擎入口
  • 云南网站开发网络公司前10猪肉价格最新消息
  • 青岛网站建设效果百度热搜榜排名今日头条
  • 网站建设主结构如何做线上推广
  • 12306网站开发商宝鸡seo优化公司
  • 网站建设 天津长沙关键词优化方法
  • 小鼠标网站建设海阳seo排名优化培训
  • 聊城seo培训长春seo优化