机器学习-第四章 朴素贝叶斯 黄海广 副教授 2022年02月 ## 本章目录 01 贝叶斯方法 02 朴素贝叶斯原理 03 朴素贝叶斯案例 04 朴素贝叶斯代码实现 ### 1. 贝叶斯方法 ## 01 贝叶斯方法 02 朴素贝叶斯原理 03 朴素贝叶斯案例 04 朴素贝叶斯代码实现 ### 1. 贝叶斯方法-背景知识 贝叶斯分类: 贝叶斯分类是一类分类算法的总称，这类算 贝叶斯分类是一类分类算法的总称，这类算法均以贝叶斯定理为基础，故统称为贝叶斯分类。 先验概率：根据以往经验和分析得到的概率。我们用 $ P(Y) $ 来代表在没有训练数据前假设Y拥有的初始概率。 后验概率：根据已经发生的事件来分析得到的概率。以 $ P(Y|X) $ 代表假设X成立的情下观察到Y数据的概率，因为它反映了在看到训练数据X后Y成立的置信度。 ### 1. 贝叶斯方法-背景知识 联合概率：联合概率是指在多元的概率分布中 事件共同发生的概率。 ### 1. 贝叶斯方法 ## 贝叶斯公式  $$ P(Y|X)=\frac{P(X,Y)}{P(X)}=\frac{P(X|Y)P(Y)}{P(X)} $$ 朴素贝叶斯法是典型的生成学习方法。生成方法由训练数据学习联合概率分布

## PyTorch ## 情感分类实战 主讲人：龙良曲 ## Sentiment Classification Ignore Ignore  RNN The RNN food ## 👍 🔧 Linear Classifier

## PyTorch ## 多分类问题 主讲人：龙良曲  input layer (784) Output layer (10) 2nd hidden layer (200) 1st hidden layer (200) ## Network w2.grad.norm()) optimizer.step() C:\ProgramData\conda\python.exe F:/PytorchTutorial/lesson26-LR多分类实战/main.py Downloading http://yann.lecun.com/exdb/mnist/train-images-idx3-ubyte.gz Downloading http://yann

## 华为云深度学习在文本分类中的实践 华为 Cloud&AI 李明磊 ## 极客邦科技 会议推荐2019  ## QCon 北京 ## 全球软件开发大会 大会：5月6–8日 培训：5月9–10日 QCon ![I 培训：11月10–11日 ## AiCon 北京 ## 全球人工智能与机器学习大会 大会：11月21–22日 培训：11月23–24日 ## 目录 分类算法简史 2 深度学习架构 3 难点 4 应用案例 ## 文本分类介绍 内容: 买没几天就降价一点都不开心，闪存跑分就五百多点…… 外观漂亮音质不错，现在电子产品基本上都是华为的了…… 汽车不错，省油，性价比高…… 这个政策好啊，利国利民…… f(text)=label 词 句子 篇章 对话 ## 文本分类方法简史-机器学习 label 输入文本 特征提取 特征选择 分类器 模型训练 评测 模型部署 词袋 卡方 SVM 预测标签 TFIDF PCA LR Ngram 互信息 XGBoost 词典 RFE 随机森林 ## 文本分类方法简史-深度学习 label 输入文本 模型训练 评测

3c62dbc766167c/p26_2.jpg) ## 经典人脸检测算法流程 用大量的人脸和非人脸样本图像进行训练，得到一个解决二分类问题的分类器，也称为人脸检测模板。这个分类器接受固定大小的输入图片，判断这个输入图片是否为人脸，即解决是否的问题。人脸二分类器的原理如下图所示： ![Image](/uploads/documents/0/b/d/4/0bd4f69b2bdb870dee3c62dbc766167c/p27_2 基于深度学习的算法 ## 基于模板匹配的人脸检测算法 早期的人脸检测算法使用了模板匹配技术，即用一个人脸模板图像与被检测图像中的各个位置进行匹配，确定这个位置处是否有人脸，即针对图像中某个区域进行人脸-非人脸二分类的判别。 早期有代表性的成果是Rowley等人提出的方法 $ ^{[1]} $ 。他们用神经网络进行人脸检测，用20x20的人脸和非人脸图像训练了一个多层感知器模型。论文 $ ^{[1]} $ 中 Learning）算法。俗话说 “三个臭皮匠，顶个诸葛亮”。Boost 的核心思想便是利用多个简单的弱分类器，构建出高准确率的强分类器。 在2001年，Viola和Jones设计了一种人脸检测框架（VJ框架） $ ^{[3]} $ 。它使用简单的 Haar-like 特征和级联的 AdaBoost 分类器构造检测器，检测速度较之前的方法有2个数量级的提高，并且保持了很好的精度。 在深度学习出现以前

的成 果。 2.49 -- 2009年6⽉: 基于节点的纹理、⾻架草图 (又称作Etch-a-Ton)、 布尔⽹格操作改进、 JPEG2000 ⽀持、针对图像直接传⼊模型的投影绘制、和Python 脚本分类。 游戏引擎的增强功能包括视频纹理（可以在游戏中播放视频），升级到 bullet的物理引擎，圆顶 (鱼眼) 渲染，并提供更多可⽤的 API 游戏引擎调 ⽤。 Blender 2.5 - 重写代码！ 选择显⽰图像的颜⾊样本。 属性 卡通 仅合成器 标准 TODO 2.8 电影向 TODO 2.8 通道 单击其中⼀个通道会显⽰每个通道的曲线。 C (混合RGB)， R (红)， G (绿)， B (蓝) 曲线 使⽤贝塞尔曲线将输⼊值变换为输出值。对于曲线控制⽅式，请参阅 曲线 部件 。 输出选项 图像 标准图像输出。 举例 下⾯是⼀些可⽤于实现所需效果的常⽤曲线。 从左⾄右：1. 减轻阴影, 2. 反⾊, 3 马⽒分形节点 噪波节点 斯⽒分形 沃罗诺伊节点 ⽊纹节点 混合节点 混合节点。 见 此处。 云絮节点 云絮节点。 见 此处。 畸变噪波节点 畸变噪波节点。 见 此处。 幻彩节点 幻彩节点。 见 此处。 ⼤理⽯纹节点 ⼤理⽯纹节点。 见 此处。 马⽒分形节点 马⽒分形节点。 见 此处。 噪波节点 噪波节点。 见 此处。 斯⽒分形 斯⽒分形。 见 此处。

的成果。 2.49 -- 2009年6⽉: 基于节点的纹理、⾻架草图（又称作Etch-a-Ton）、 布尔⽹格操作改进、 JPEG2000 ⽀持、针对图像直接传⼊模型的投影绘制，和Python 脚本分类。 游戏引擎的增强功能包括视频纹理（可以在游戏中播放视频），升级到 bullet的物理引擎，圆顶（鱼眼）渲染，并提供更多可⽤的 API 游戏引擎调 ⽤。 Blender 2.5 - 重写代码！ 2.5x 混合节点 云絮节点 畸变噪波节点 幻彩节点 ⼤理⽯纹节点 马⽒分形节点 噪波节点 斯⽒分形节点 沃罗诺伊节点 ⽊纹节点 混合节点 见 此处。 云絮节点 见 此处。 畸变噪波节点 见 此处。 幻彩节点 见 此处。 ⼤理⽯纹节点 见 此处。 马⽒分形节点 见 此处。 噪波节点 见 此处。 斯⽒分形节点 见 此处。 沃罗诺伊节点 见 此处。 ⽊纹节点 见 按钮和捕捉类型）。 视图菜单 调整上⼀步操作 显⽰⼀个弹出⾯板，⽤于更改上次完成的操作的属性。请参阅： 调整上⼀ 步操作 。 显⽰控制柄和插值 代替将所有关键帧显⽰为菱形，⽽是使⽤不同的图标来显 ⽰贝塞尔控制柄类型。 当曲线使⽤不同的插值类型时，键 之间会显⽰⼀条线以突出显⽰。 极端标记。 请参阅 控制柄&插值显⽰。 显⽰极端点 基于与相邻键值的⽐较，检测曲线改变⽅向的键，并通过 将关键帧图标更改为类似箭头来显⽰。

流  应用：智能问答，机器翻译，文本分类，文本摘要，标签提取，情感分析，主题模型 ## NLP发展简史 以机器翻译为开端，作为早期尝试，但不是很成功 1950S 1980s 多数自然语言处理系统基于规则，人工修订等方式，包括问答、翻译、搜索等 强行 加到 中国 身上 的 美国 单方面 主动 挑起 中美 贸易战 有人 认为 是 服务于 选举 需要 有人 认为 是 遏制 中国 的 谋略 篇章级分析 中文分词 文档相似度 主题模型 文档分类聚类 ↑ 段落级分析 依存文法分析 词位置分析 语义归一化 文本纠错 ↑ ↑ 字词级分析 命名实体识别 词性标注 同义词分析 字词向量 ## 日常工作中各类常见的文本形式 标准机器学习过程 自自自 标注数据 机器学习算法 训练 预测 自自自 数据 已训练模型 预测 ## 深度学习和传统机器学习 输入数据 特征工程 非常耗费时间 自自自 输入数据 以文本分类过程举例，常见的特征提取算法包括： 传统机器学习算法 词频 深度学习算法 TF-IDF 互信息 信息增益 期望交叉熵 主成分分析 特征工程需要手工寻找特征，花费大量人力，特征的好坏往往决定最终结果