## 深度学习-深度卷积神经网络 黄海广 副教授 2023年04月 ## 本章目录 01 经典网络 02 深度残差网络 03 其它现代网络 04 卷积神经网络使用技巧 ### 1. 经典网络 01 经典网络 02 深度残差网络 03 其它现代网络 04 卷积神经网络使用技巧 ## 经典网络-LeNet-5 • LeNet 分为两个部分组成： • 卷积层块：由两个卷积层块组成； .jpg) ## AlexNet - 2012年，AlexNet 横空出世。它首次证明了学习到的特征可以超越手工设计的特征。它一举打破了打破计算机视觉研究的现状。AlexNet 使用了8层卷积神经网络，并以很大的优势赢得了2012年 ImageNet 图像识别挑战赛。  ### 2. 深度残差网络 01 经典网络 02 深度残差网络 03 其它现代网络 04 卷积神经网络使用技巧 ### 2. 深度残差网络 梯度消失和梯度爆炸问题 ![Image](/uploads/documents/7/6/0/7/7607a8e8efef5

## PyTorch ## 卷积神经网络 主讲人：龙良曲 ## Convolution  image Convolutional layer ## Moving window feature map ![Image](/uplo

## 深度学习-卷积神经网络 黄海广 副教授 2023年03月 ## 本章目录 01 计算机视觉概述 02 卷积神经网络简介 03 卷积神经网络计算 04 卷积神经网络案例 ## 本章目录 01 计算机视觉概述 02 卷积神经网络概述 03 卷积神经网络计算 04 卷积神经网络案例 ## 计算机视觉 ·图像分类 ·目标检测 ·图像分割 ·目标跟踪 /9/6/a/0/96a0151c500a768599d18c1906c742f5/p4_1.jpg) 图像获取 提取二维图像、三维图组、图像序列或相关的物理数据，如声波、电磁波或核磁共振的深度、吸收度或反射度  预处理 对图像 01 计算机视觉概述 02 卷积神经网络概述 03 卷积神经网络计算 04 卷积神经网络案例 ## 深层神经网络和卷积神经网络  进行卷积计算，处理大量特征 ## 深层神经网络和卷积神经网络 ![Image](/upload

## 深度学习-深层神经网络 黄海广 副教授 2023年03月 ## 神经网络的概念 $$ \begin{aligned}\left.\begin{array}{l}x_{1}\\x_{2}\\x_{3}\end{array}\right.\left.\begin{array}{l}\text{}\\\left.\begin{array}{l}x\\w\\b\end{array}\righ ow L(a,y)\end{aligned}\Longrightarrow L(a,y) $$ ## 神经网络的概念  ## 神经网络的概念 我们不将输入层看作一个标准的层。  ### 2. 神经网络的向量化 $$ \begin{aligned}&\begin{aligned}\\ &x_{1}&x_{2}&x_{3}\\&z&=w^{T}x+b\\&a&=\sigma(z)\\ &\end{al

## 深度学习-神经网络的编程基础 黄海广 副教授 2023年03月 ## 本章目录 01 二分类与逻辑回归 02 梯度下降 03 计算图 04 向量化 ### 1. 二分类与逻辑回归 ## 01 二分类与逻辑回归 02 梯度下降 03 计算图 04 向量化 ## 符号定义  |||| |---|---|---| |0|1|2| |1|2|3| |2|3|4| ## 参考文献 1. IAN GOODFELOW等，《深度学习》，人民邮电出版社，2017 2. Andrew Ng, http://www.deeplearning.ai ## 谢谢！

## HIPPY 前终端统一方案 Hippy-Vue 设计和实现 ## 背景介绍 传统移动端开发模式，无法满足业务精细化运营需求，急需寻找一种高性能、跨平台、动态发布的开发解决方案。 Web Native 前终端一体化 开发效率高 开发效率低 开发效率高 支持多平台 无法跨平台 支持双平台 可动态发布 发布复杂 可动态发布 体验差 体验好 体验好 能力弱 能力强 x5 内核团队提供支持 ## 项目架构 Hippy SDK 采用三层设计，其中： - JavaScript 层：提供业务代码运行时的前端上下文环境； • Native Framework 层：负责前终端通讯与 JavaScript VM，并提供 Native 相关模块； • Portable UI 层：提供基础 UI 组件与布局计算框架，并负责渲染至目标平台； ![Image](/uploa 开发，只有 50kb。 ## 项目架构 Hippy SDK 采用三层设计，其中： - JavaScript 层：提供业务代码运行时的前端上下文环境； • Native Framework 层：负责前终端通讯与 Javascript VM，并提供 Native 相关模块； • Portable UI 层：提供基础 UI 组件与布局计算框架，并负责渲染至目标平台； ![Image](/uploa

[Image](/uploads/documents/7/8/a/d/78ade080643c0185ff8788518410c6f2/p1_1.jpg) ## 链滴 ## pytorch 入门笔记 -03- 神经网络 作者：zyk 原文链接：https://ld246.com/article/1639540087993 来源网站：链滴 许可协议：署名-相同方式共享4.0国际(CC BY-SA 4.0) [Image](/uploads/documents/7/8/a/d/78ade080643c0185ff8788518410c6f2/p2_1.jpg) ## 前言 本节主要内容是如何使用 torch.nn 包来构建神经网络。 上一讲已经讲过了 autograd，nn 包依赖 autograd 包来定义模型并求导。一个 nn.Module 包含各个层和一个 forward(input) 方法，该方法返回 output。 080643c0185ff8788518410c6f2/p2_2.jpg) 它是一个简单的前馈神经网络，它接受一个输入，然后一层接着一层地传递，最后输出计算的结果。神经网络的典型训练过程如下： 1. 定义包含一些可学习的参数(或者叫权重)神经网络模型； 2. 在数据集上迭代； 3. 通过神经网络处理输入； 4. 计算损失(输出结果和正确值的差值大小); 5. 将梯度反向传播回网络的参数；

全连接神经网络实战 PYTORCH 版 DEZEMING FAMILY DEZEMING Copyright $ \copyright $ 2021-10-02 Dezeming Family ## Copying prohibited All rights reserved. No part of this publication may be reproduced or transmitted 本书前言 5 1 准备章节 6 1.1 导入 pytorch 6 1.2 导入样本数据 7 2 构建神经网络 11 2.1 基本网络结构 11 2.2 使用 cuda 来训练网络 13 3 更完善的神经网络 15 3.1 模型的加载与保存 15 3.2 初始化网络权重-方法一 16 3.3 初始化网络权重-方法二和三 [https://dezeming.top/] 找到最新版。对书的内容建议和出现的错误欢迎在网站留言。 ### 0.1 本书前言 尽管各种关于神经网络 python 实战的资料已经很多了，但是这些资料也各有优点和缺点，有时候也很难让新手有比较好的选择。 当我们明白何为 “神经网络”，何为 “反向传播” 时，我们就已经具备了开始搭建和训练网络的能力。此时，最好的方法就是给我们一个由简及难的程序示例，我们能够快

## 深度学习-Transformer 黄海广 副教授 2023年05月 ## 本章目录 01 Transformer介绍 02 Transformer的工作流程 03 Transformer的训练 04 BERT ### 1 \.Transformer介绍 01 Transformer介绍 02 Transformer的工作流程 03 Transformer的训练 在没有transformer的时候，我们都是用什么来完成这系列的任务 的呢？ 其实在之前我们使用的是RNN（或者是其的单向或者双向变种LSTM/GRU等）来作为编解码器。RNN模块每次只能够吃进一个输入token和前一次的隐藏状态，然后得到输出。它的时序结构使得这个模型能够得到长距离的依赖关系，但是这也使得它不能够并行计算，模型效率十分低。 ![Image](/uploads/documents/a/b/7 et al 2017 ## Transformer ## Transformer —— 大力出奇迹的起点 - 在Transformer提出之后，大模型的基础模型架构基本形成，注意力机制代替卷积神经网络称为主流基础模型组件 - 有利于模型向更大的参数量扩展 – Transformer有兼容多模态信息的天生优势特性，这有力地丰富了大模型的应用场景。 ## 参数少 速度快 效果好 ![Ima