2016的目标：Web爬虫＋深度学习＋自然语言处理 ＝ ？ Microso� Apple AWS 今年最激动人心的事件？ 2016.1.28 “Mastering the game of Go with deep neural networks and tree search” 今年最激动人心的事件？ 2016年3月Alphago 4:1 击败李世石九段 人工智能 VS. 机器学习 VS. 深度学习 文的自动分类 半监督学习 - 介于监督学习和无监督学习之间，算法: Graph Inference 或者Laplacian SVM 强化学习- 通过观察来学习做成如何的动作, 算法：Q-Learning以及时间差学习 机器学习－ 方法及流程 输入特征选择 – 基于什么进行预测 目标 – 预测什么 预测功能 – 回归、聚类、降维... Xn -> F(xn) -> T(x) 机器学习－ (NYU,2002), Facebook AI, Google Deepmind Theano (University of Montreal, ~2010), 学院派 Kersa, “Deep Learning library for Theano and TensorFlow” Caffe (Berkeley)，卷积神经网络,贾扬清 TensorFlow (Google) Spark MLLib

VMware SIG Deep Dive into Kubernetes Scheduling Performance and high availability options for vSphere Steve Wong, Hui Luo VMware Cloud Native Applications Business Unit November 12, 2018 2 Open

第三届中国Rust开发者大会 Rust Atomic Deep Dive Pu Wang @ DatenLord 2023/06/17 Rust原子操作高性能实践 What are atomic operations in Rust? What Why need atomic operations? Why How 01 02 03 Memory order in atomic operations

Issues 页面提交： https://github.com/dragen1860/Deep-Learning-with-PyTorch-book/issues ❑ 本书主页，以及源代码，电子书下载，正式版也会在此同步更新： https://github.com/dragen1860/Deep-Learning-with-PyTorch-book ❑ 姊妹书《TensorFlow 深度学习—深入理解人工智能算法设计》： 图 1.1 人工智能、机器学习、神经网络和深度学习 1.1.2 机器学习 机器学习可以分为有监督学习(Supervised Learning)、无监督学习(Unsupervised Learning)和强化学习(Reinforcement Learning，简称 RL)，如图 1.2 所示。 机器学习 有监督学习 无监督学习 强化学习 图 1.2 机器学习的分类 有监督学习 的数据集，算法需 要自行发现数据的模态，这种方式叫作无监督学习。无监督学习中有一类算法将自身作为 监督信号，即模型需要学习的映射为??: ? → ?，称为自监督学习(Self-supervised Learning)。在训练时，通过计算模型的预测值??(?)与自身?之间的误差来优化网络参数?。 常见的无监督学习算法有自编码器、生成对抗网络等。 强化学习 也称为增强学习，通过与环境进行交互来学习解决问题的策略的一类算法。

NeurIPS 2021 ｜ Twins：重新思考高效的视觉注意力模型设计 339 目录 iv > 2022年美团技术年货 美团获得小样本学习榜单 FewCLUE 第一！ Prompt Learning+ 自训练实战 353 DSTC10 开放领域对话评估比赛冠军方法总结 368 KDD 2022 | 美团技术团队精选论文解读 382 ACM SIGIR 2022 | 美团技术团队精选论文解读 ConvNets Great Again, https://arxiv.org/ pdf/2101.03697 [5] CSPNet: A New Backbone that can Enhance Learning Capability of CNN, https://arxiv.org/abs/1911.11929 [6] Path aggregation network for instance abs/2103.14259 [8] Computer Architecture: A Quantitative Approach [9] SIoU Loss: More Powerful Learning for Bounding Box Regression, https:// arxiv.org/abs/2205.12740 6. 作者简介 楚怡、凯衡、亦非、程孟、秦皓、一鸣、红亮、林园等，均来自美团基础研发平台

hine learning，ML）是一类强大的可 以从经验中学习的技术。通常采用观测数据或与环境交互的形式，机器学习算法会积累更多的经验，其性能 17 也会逐步提高。相反，对于刚刚所说的电子商务平台，如果它一直执行相同的业务逻辑，无论积累多少经验， 都不会自动提高，除非开发人员认识到问题并更新软件。本书将带读者开启机器学习之旅，并特别关注深度 学习（deep learning，DL）的基 动可以调整程序的行为。任一调整参数后的程序被 称为模型（model）。通过操作参数而生成的所有不同程序（输入‐输出映射）的集合称为“模型族”。使用数 据集来选择参数的元程序被称为学习算法（learning algorithm）。 在开始用机器学习算法解决问题之前，我们必须精确地定义问题，确定输入（input）和输出（output）的性 质，并选择合适的模型族。在本例中，模型接收一段音频作为 从英语映射到中文，可能需要一个完全不同的模型族。 但如果模型所有的按钮（模型参数）都被随机设置，就不太可能识别出“Alexa”“Hey Siri”或任何其他单 词。在机器学习中，学习（learning）是一个训练模型的过程。通过这个过程，我们可以发现正确的参数集， 从而使模型强制执行所需的行为。换句话说，我们用数据训练（train）模型。如 图1.1.2所示，训练过程通常 包含如下步骤：

Supervised Learning https://towardsdatascience.com/supervised-vs-unsupervised-learning-14f68e32ea8d Massive Unlabeled data Unsupervised Learning https://medium.com/intuitionmachine/predictive-learning-is- the-key-to-deep-learning- acceleration-93e063195fd0 Why needed ▪ Dimension reduction ▪ Preprocessing: Huge dimension, say 224x224, is hard to process ▪ Visualization: https://projector.tensorflow.org/ Compression, denoising, super-resolution … Auto-Encoders https://towardsdatascience.com/applied-deep-learning-part-3-autoencoders- 1c083af4d798 https://towardsdatascience.com/a-wizards-guide-to-adversari

Intelligent Systems with Large Scale Deep Learning 1990s��������������� Jeff Dean, Google Brain Team, Building Intelligent Systems with Large Scale Deep Learning ������������������ Jeff Dean, Google Building Intelligent Systems with Large Scale Deep Learning ����� Google ��� Jeff Dean, Google Brain Team, Building Intelligent Systems with Large Scale Deep Learning TensorFlow � Jeff Dean ���� “TensorFlow �� • ... TensorFlow ����� DistBelief - Google ��������������� Jeff Dean, Large Scale Distributed Deep Networks, NIPS 2012 TensorFlow - Google ��������������� • ���������� • ����������� • ����������

PaddlePaddle、XDL，etc.  内部： Abacus、XPS， etc. • Online Learning的价值  用户的近期行为，更能表现意图和偏好  增强新item的模型感知能力 • 更快数据反馈、更少资源消耗  分钟级的数据反馈  增量训练、避免batch重训带来的资源消耗 关于Online Learning MLX的模型能力 • 支持千亿级特征、千亿级样本 • 支持计算图模式，模型结构灵活多样 AUC、Loss、MAE、RMSE  支持外部eval工具，计算MAP、NDCG MLX的模型能力 • 提供离线、近线、在线全流程解决方案，各阶段提供扩展方案，降低算法迭代成本； • 支持Online Learning，提供从近线到在线的模型数据通路； • 提供从召回到排序全流程的模型解决方案，为业务提供最佳实践； • 提供系统的平台化工具，为用户提供易用的界面操作； MLX模型能力 MLX平台架构 流式模型的通路 • 持久化存储  本地disk存储，持久化对齐kafka的数据 • PS快速failover  Compaction机制，降低load数据量 • Online Learning对数据流的要求  不重不丢：重复的数据会使模型有偏，数据的缺失 会使模型丢失重要信息  数据有序性：数据乱序会导致样本穿越的现象 • Log Join框架  双流拼接框架，通过组合方式支持多流拼接

mlmodel VisionFeaturePrint_Scene 只存在于 iOS 12, macOS 10.14 Vision 框架背后的特征提取 17KB in Demo Transfer Learning ✅ VisionFeaturePrint_Scene ? VisionFeaturePrint_Screen Core ML Community Tools visionFeaturePrint Machine Learning for iOS https://github.com/alexsosn/iOS_ML Apple Machine Learning Journal https://machinelearning.apple.com Kraggle https://www.kaggle.com Machine Learning (Turi) - Coursera https://coursera.org/specializations/machine-learning Deep Learning with Python https://www.manning.com/books/deep-learning-with-python 谢谢！: ] @onevcat, me@onev.cat