机器学习课程-温州大学-06深度学习-优化算法## 深度学习-优化算法 黄海广 副教授 2023年04月 ## 本章目录 01 小批量梯度下降 02 优化算法 03 超参数调整和BatchNorm 04 Softmax ### 1. 小批量梯度下降 ## 01 小批量梯度下降 02 优化算法 03 超参数调整和BatchNorm 04 Softmax ## 小批量梯度下降 ## 小批量梯度下降(Mini-Batch [Image](/uploads/documents/b/5/6/7/b567ec9747c87c33d45000790224cffe/p5_2.jpg) ### 2. 优化算法 01 小批量梯度下降 ## 02 优化算法 03 超参数调整和BatchNorm 04 Softmax ## 伦敦温度的例子 $$ \theta_{1}=40^{\circ}\mathrm{F} $$ $$ RMSprop  在第t次迭代中,该算法会照常计算当下mini-batch的微分dW,db,所以我会保留这个指数加权平均数,我们用到新符号 $ S_{dW} $ ,而不是 $ v_{dW} $ ,因此 $ S_{dW}=\beta S_{dW}+(1-\beta)dW^{2}0 码力 | 31 页 | 2.03 MB | 2 年前3
机器学习课程-温州大学-06机器学习-KNN算法## 机器学习-KNN算法 黄海广 副教授 2021年04月 ## 本章目录 01 距离度量 02 KNN算法 03 KD树划分 04 KD树搜索 ### 1. 距离度量 01 距离度量 02 KNN算法 03 KD树划分 04 KD树搜索 ## 距离度量 欧氏距离(Euclidean distance) 电影分类 ^{2}}} $$ ### 2. KNN算法 01 距离度量 02 KNN算法 03 KD树划分 04 KD树搜索 ### 2. KNN算法 k近邻法(k-Nearest Neighbor, kNN)是一种比较成熟也是最简单的机器学习算法,可以用于基本的分类与回归方法。 算法的主要思路: 如果一个样本在特征空间中与k个实例最为相似(即特征空间中最 对于回归问题:对新的样本,根据其k个最近邻的训练样本标签值的均值作为预测值。 ### 2. KNN算法 k近邻法(k-Nearest Neighbor,kNN)是一种比较成熟也是最简单的机器学习算法,可以用于基本的分类与回归方法。 k近邻法的三要素: • k值选择。 • 距离度量。 • 决策规则。 ### 2. KNN算法 ## 算法流程如下: 1. 计算测试对象到训练集中每个对象的距离 2. 按照距离的远近排序0 码力 | 26 页 | 1.60 MB | 2 年前3
Apache ServiceComb(incubating)社区最新路线## Apache ServiceComb(Incubating)社区路线图 部门名称:2012中软开源能力中心 作者:姜宁 日期:2018-10-12  ## 个人介绍 华为公司开源技术专家, Apache ServiceComb项目发起人。 .jpg) http://www.aleanjourney.com/2016/05/5-steps-for-creating-lean-roadmap.html ## ServiceComb发展路线图  ROAD MAP ## ServiceComb(Apache .jpg) 优化后台性能 支持多种分布式协调机制 多语言框架Omega 外部长期贡献者10 + ,邮件列表活跃度 每月180 封 ,外部用户 20 家 ## ServiceComb近期发展路线图 异步编程接口支持 在Vertx基础上继续扩展 AsyncRestTemplate CompletableFuture RxJava 服务中心 多数据中心支持 拥抱混合云架构 支持客户端自注册于平台注册0 码力 | 20 页 | 8.12 MB | 2 年前3
Hello 算法 1.0.0b2 Python版FEELO FEELO FEELO FEELO FEELO FEELO FEELO FEELO > Hello 算法 动画图解、能运行、可提问的数据结构与算法入门教程 作者:靳宇栋(Krahets) Hello 算法 Python 语言版 靳宇栋(Krahets)  课程顾问「橘子」 回复「QCon」 回复「QCon」 免费获取 # 极客时间企业账号 # 解决技术人成长路上的学习问题 学习解决方案 ☐ 扫一扫二维码图案,加我微信 ## 自我介绍 ## 周玉驰 硕士毕业于中科院 先后就职于华为,百度和医渡云 目前就职于贝壳找房 主要负责两个方向 房源策略算法 房客人关系图谱 : if length(a)0 码力 | 52 页 | 2.05 MB | 2 年前3
Hello 算法 1.0.0b5 Golang版FEELO FEELO FEELO FEELO FEELO FEELO FEELO FEELO > Hello 算法 动画图解、能运行、可提问的数据结构与算法入门教程 作者:靳宇栋(Krahets) Hello 算法 Go 语言版 靳宇栋(Krahets) ,基模型的训练集按照某种策略每次都进行一定的转化。对所有基模型预测的结果进行线性综合产生最终的预测结果。  ## 集成学习 ## Stacking ## 随机森林 ## Random Forest(随机森林) 用随机的方式建立一个森林。随机森林算法由很多决策树组成,每一棵决策树之间没有关联。建立完森林后,当有新样本进入时,每棵决策树都会分别进行判断,然后基于投票法给出分类结果。 ## 优点 1. 在数据集上表现良好,相对于其他算法有较大的优势 2. 易于并行化,在大数据集上有很大的优势; 3. 能够处理高维度数据,不用做特征选择。0 码力 | 50 页 | 2.03 MB | 2 年前3
机器学习课程-温州大学-05深度学习-深度学习实践## 深度学习-深度学习实践 黄海广 副教授 2023年03月 ## 本章目录 01 数据集划分 02 数据集制作 03 数据归一化/标准化 04 正则化 05 偏差和方差 ## 数据集划分 训练集(Training Set):帮助我们训练模型,简单的说就是通过训练集的数据让我们确定拟合曲线的参数。 验证集(Validation Set):也叫做开发集(Dev Set),用来做模型选择(model selection),即做模型的最终优化及确定的,用来辅助我们的模型的构建,即训练超参数,可选; 测试集(Test Set):为了测试已经训练好的模型的精确度。 三者划分:训练集、验证集、测试集 机器学习:60%,20%,20%;70%,10%,20% 深度学习:98%,1%,1%(假设百万条数据) ## 交叉验证 。 ### 3. 正则化 正则化(regularization)的技术,保留所有的特征,但是减少参数的大小(magnitude),它可以改善或者减少过拟合问题。 ### 4. 集成学习方法 集成学习是把多个0 码力 | 19 页 | 1.09 MB | 2 年前3
机器学习课程-温州大学-05机器学习-机器学习实践## 机器学习-机器学习实践 黄海广 副教授 2022年02月 ## 本章目录 01 数据集划分 02 评价指标 03 正则化、偏差和方差 ### 1. 数据集划分 ## 01 数据集划分 02 评价指标 03 正则化、偏差和方差 ### 1. 数据集划分 训练集(Training Set):帮助我们训练模型,简单的说就是通过训练集的数据让我们确定拟合曲线的参数。 验证集(Validation > 三者划分:训练集、验证集、测试集 机器学习:60%,20%,20%;70%,10%,20% 深度学习:98%,1%,1%(假设百万条数据) ## 交叉验证  ## 不平衡数据的处理 SMOTE(Synthetic Minority Over-sampling Technique)算法是过采样中比较常用的一种。算法的思想是合成新的少训练集 验证集 测试集 0 码力 | 33 页 | 2.14 MB | 2 年前3
共 1000 条
- 1
- 2
- 3
- 4
- 5
- 6
- 100













