Lecture 2: Linear Regression Feng Li Shandong University fli@sdu.edu.cn September 13, 2023 Feng Li (SDU) Linear Regression September 13, 2023 1 / 31 Lecture 2: Linear Regression 1 Supervised Learning: Learning: Regression and Classification 2 Linear Regression 3 Gradient Descent Algorithm 4 Stochastic Gradient Descent 5 Revisiting Least Square 6 A Probabilistic Interpretation to Linear Regression Regression September 13, 2023 2 / 31 Supervised Learning Regression: Predict a continuous value Classification: Predict a discrete value, the class Living area (feet2) Price (1000$s) 2104 400 1600

TensorFlow 2 进阶使用 扫码试看/订阅 《 TensorFlow 2项目进阶实战》视频课程 • 使⽤ TensorFlow 2 实现图像数据增强 • 使⽤ TensorFlow 2 实现分布式训练 • 使⽤ TensorFlow Hub 迁移学习 • 使⽤ @tf.function 提升性能 • 使⽤ TensorFlow Serving 部署云端服务 • 使⽤ TensorFlow TensorFlow Lite 实现边缘智能 目录 使⽤ TensorFlow 2 实现图像数据增强 使⽤ TensorFlow 2 实现分布式训练 使⽤ TensorFlow Hub 迁移学习 7 8 9 11 12 13 使⽤ @tf.function 提升性能 使⽤ TensorFlow Serving 部署云端服务 使⽤ TensorFlow Lite 实现边缘智能 TensorFlow clone https://github.com/tensorflow/examples Step 2：在 Android Studio 中加载 examples 项目 项目路径：examples/lite/examples/image_classification/android Step 2：在 Android Studio 中加载 examples 项目 Step 3：在 Android

Experiment 2: Logistic Regression and Newton’s Method August 29, 2018 1 Description In this exercise, you will use Newton’s Method to implement logistic regression on a classification problem. 2 Data To To begin, download data2.zip and extract the files from the zip file. For this exer- cise, suppose that a high school has a dataset representing 40 students who were admitted to college and 40 students first column of your x array represents all Test 1 scores, and the second column represents all Test 2 scores, and the y vector uses “1” to label a student who was admitted and “0” to label a student who

TensorFlow 2 项目实战进阶 扫码试看/订阅 《TensorFlow 2 项目进阶实战》视频课程 基础理论篇：TensorFlow 2 设计思想 • TensorFlow 2 设计原则 • TensorFlow 2 核心模块 • TensorFlow 2 vs TensorFlow 1.x • TensorFlow 2 落地应用 目录 TensorFlow 2 设计原则 TensorFlow of AI TensorFlow 2 设计原则 TensorFlow 2 简化概念 海纳百川 构建生态 TensorFlow 2 简化概念 1.0 2.0 TensorFlow 2 海纳百川 2.0 TensorFlow 2 构建生态 2.0 TensorFlow 生产级AI方案 TensorFlow 2 核心模块 TensorFlow 2 核心模块概览 tf.keras：分布式和高性能的 模型格式 TensorFlow 2 vs TensorFlow 1.x Keras vs TensorFlow 1.x TensorFlow 1.x 工作流 Full of abstract notions TensorFlow 2 工作流 Native Friendly to TensorFlow 生产级 AI 方案 TensorFlow 2 落地应用 TensorFlow 与移动互联网的结合

TensorFlow 2 项目实战进阶 扫码试看/订阅 《TensorFlow 2 项目进阶实战》视频课程 快速上手篇：动⼿训练模型和部署服务 • TensorFlow 2 开发环境搭建 • 使用 tf.keras.datasets 加载数据 • 使用 tf.data.Dataset 加载数据 • 使用 tf.keras.Model 管理模型 • Fashion MNIST 数据集介绍 数据集介绍 • 使用 TensorFlow 2 训练分类网络 目录 TensorFlow 2 开发环境搭建 TensorFlow 2 支持的操作系统 • Python 3.5–3.7 • Ubuntu 16.04 or later • Windows 7 or later • macOS 10.12.6 (Sierra) or later (no GPU support) • Raspbian TensorFlow 2 在 Jupyter Lab 中使用 TensorFlow 2 在 Jupyter Lab 中使用 TensorFlow 2 在 Jupyter Lab 中使用 TensorFlow 2 Docker 容器 与 虚拟机 虚拟机 Docker 容器 在 Docker 中使用 TensorFlow 2 在 Docker 中使用 TensorFlow 2 在 Docker

Chapter 2 - Compression Techniques “I have made this longer than usual because I have not had time to make it shorter.” Blaise Pascal In the last chapter, we discussed a few ideas to improve the deep less frequent symbols are assigned longer codes. This is achieved with a simple Huffman Tree (figure 2-1 bottom). Each leaf node in the tree is a symbol, and the path to that symbol is the bit-string assigned the same number of bits. The lookup table (figure 2-1 middle) that contains the symbol-code mapping is transmitted along with the encoded data. Figure 2-1: Huffman Encoding & Huffman Tree. Source When

instructions that this TensorFlow binary was not compiled to use: AVX2 FMA Hello TensorFlow • Intel • Haswell processor, Q2 2013 • Haswell E processor, Q3 2014 • Broadwell processor, Q4 2014 • Broadwell Q3 2015 • Kaby Lake processor, Q3 2016(ULV mobile)/Q1 2017(desktop/mobile) • Skylake-X processor, Q2 2017 • Coffee Lake processor, Q4 2017 • Cannon Lake processor, expected in 2018 • Cascade Lake processor processor, expected in 2018 • AMD • Excavator processor and newer, Q2 2015 • Zen processor, Q1 2017 • Zen+ processor, Q2 2018 �� AVX2 ���� CPUs Ref: https://en.wikipedia.org/wiki/Advanced_Vector_Exte

备注：请关注github的更新。 CS229 机器学习课程复习材料-概率论 CS229 机器学习课程复习材料-概率论 概率论复习和参考 1. 概率的基本要素 1.1 条件概率和独立性 2. 随机变量 2.1 累积分布函数 2.2 概率质量函数 2.3 概率密度函数 2.4 期望 2.5 方差 2.6 一些常见的随机变量 3. 两个随机变量 3.1 联合分布和边缘分布 可以被认为是实验结束时现 实世界状态的完整描述。 事件集（事件空间） ：元素 的集合（称为事件）是 的子集（即每个 是一个实 验可能结果的集合）。 备注： 需要满足以下三个条件： (1) (2) (3) 概率度量 ：函数 是一个 的映射，满足以下性质： 对于每个 ， , 如果 是互不相交的事件 (即 当 时， ), 那么： 以上三条性质被称为概率公理。 举例： 考虑投掷六面骰子的事件。样本空间为 的条件概率为： 换句话说， )是度量已经观测到 事件发生的情况下 事件发生的概率，两个事件被称为独立事件 当且仅当 （或等价地， )。因此，独立性相当于是说观察到事 件 对于事件 的概率没有任何影响。 2. 随机变量 考虑一个实验，我们翻转10枚硬币，我们想知道正面硬币的数量。这里，样本空间 的元素是长度为10 的序列。例如，我们可能有 ， ， ， ， ， ， ， ， ， 。然而，在实践中，我

业务落地篇：实现货架洞察 Web 应用 扫码试看/订阅 《 TensorFlow 2项目进阶实战》视频课程 • 串联 AI 流程理论：商品检测与商品识别 • 串联 AI 流程实战：商品检测与商品识别 • 展现 AI 效果理论：使用 OpenCV 可视化识别结果 • 展现 AI 效果实战：使用 OpenCV 可视化识别结果 • 搭建 AI SaaS 理论：Web 框架选型 • 搭建 AI Dockerfile 为 AI SaaS 构建 Docker 镜像（TF 容器外） $ docker build –t tf2-ai-saas -f ai_saas/Dockerfile . 为 AI SaaS 构建 Docker 镜像（TF 容器外） $ docker build –t tf2-ai-saas -f ai_saas/Dockerfile . “Hello TensorFlow” Try --runtime nvidia -it --rm --name tf2_ai_saas -p 9000:9000 tf2-ai-saas bash 使用 cURL 发起识别请求 $ curl -H "Content-Type: application/json" --data @body.json http://localhost:9000/tf2/ai_saas AI SaaS 服务识别结果 “Hello

商品识别篇：使用 ResNet 识别你的货架商品 扫码试看/订阅 《 TensorFlow 2项目进阶实战》视频课程 • 基础：图像分类问题定义与说明 • 基础：越来越深的图像分类网络 • 应⽤用：检测SKU抠图与分类标注流程 • 应⽤用：分类训练集与验证集划分 • 应⽤用：使⽤用TensorFlow 2训练ResNet • 应⽤用：使用ResNet识别货架商品 • 扩展：图像分类常用数据集综述 SKU 小图 … SKU 小图 -> 手动分类 “Hello TensorFlow” Try it！ 应⽤用：分类训练集与验证集划分 https://www.pinlandata.com/rp2k_dataset Categoried Stats # SKUs # Train images # Test images # Total Images # Images/SKUs Low-Temperature 38032 4487 42519 82.88 All 2395 344854 39457 384311 160.46 RP2K 各品类数据统计 RP2K 样例数据（规格、细粒度、角度） “Hello TensorFlow” Try it！ 应⽤用：使⽤用 TensorFlow 2 训练 ResNet “Hello TensorFlow” Try it！ 应⽤用：使用ResNet识别货架商品