AI Agent 等； 想了解更多信息，欢迎访问： • 博客 • GitHub • Hugging Face • ModelScope • Qwen1.5 Collection 加入社区，加入 Discord 和 微信群 。很期待见到你们！ 快速开始 1 Qwen 2 快速开始 CHAPTER1 文档 1.1 安装 要快速上手 Qwen1.5，您可以从 Hugging Face 方法不支持模型分片。若要实现模型分片，您需要先加载模型，然后使用来自 transformers 库的 save_pretrained 方法来保存并分片模型。除此之外，一切操作都非常简单。祝您 使用愉快！ 1.9 GGUF 最近，在社区中本地运行 LLM 变得越来越流行，其中使用 llama.cpp 处理 GGUF 文件是一个典型的例子。通 过 llama.cpp，您不仅可以为自己的模型构建 GGUF 文件，还可以进行低比特量化操作。在

年华人学者之一，本科毕业于上海交通 大学ACM班，博士毕业于华盛顿大学计 算机系。 主要贡献：设计了XGBoost算法。 机器学习界的青年才俊 何恺明，本科就读于清华大学，博士毕业于 香港中文大学多媒体实验室。2016年，加入 Facebook AI Research（FAIR）担任研究科 学家。 主要贡献：设计了ResNets 8 国内外知名人工智能企业榜单 编码 企业名称 人工智能技术 应用领域 所属国家 成立时间 ee 53 ⚫Pycharm https://www.jetbrains.com/pycharm/ Pycharm 提供 免费的社区版 与 付费的专业版。专业版额外增加了一些功能， 如项目模板、远程开发、数据库支持等。个人学习 Python 使用免费的社区版 已足够。 如果有edu邮箱，那么推荐使用专业版，edu邮箱是可以免费使用专业版的。 安装过程照着提示一步步操作就可以了。 注意：安装路径尽量不使用带有

年华人学者之一，本科毕业于上海交通 大学ACM班，博士毕业于华盛顿大学计 算机系。 主要贡献：设计了XGBoost算法。 人工智能界的青年才俊 何恺明，本科就读于清华大学，博士毕业于 香港中文大学多媒体实验室。2016年，加入 Facebook AI Research（FAIR）担任研究科 学家。 主要贡献：设计了ResNets 8 国内外知名人工智能企业榜单 编码 企业名称 人工智能技术 应用领域 所属国家 成立时间 ee 54 ⚫Pycharm https://www.jetbrains.com/pycharm/ Pycharm 提供 免费的社区版 与 付费的专业版。专业版额外增加了一些功能， 如项目模板、远程开发、数据库支持等。个人学习 Python 使用免费的社区版 已足够。 如果有edu邮箱，那么推荐使用专业版，edu邮箱是可以免费使用专业版的。 安装过程照着提示一步步操作就可以了。 注意：安装路径尽量不使用带有

我们着手创建的资源可以：（1）每个人都可以免费获得；（2）提供足够的技术深度，为真正成为一名应用机 器学习科学家提供起步；（3）包括可运行的代码，向读者展示如何解决实践中的问题；（4）允许我们和社区 的快速更新;（5）由一个论坛2作为补充，用于技术细节的互动讨论和回答问题。 这些目标经常是相互冲突的。公式、定理和引用最好用LaTeX来管理和布局。代码最好用Python描述。网页 原生是H 目录 7 练习 1. 在本书discuss.d2l.ai6的论坛上注册帐户。 2. 在计算机上安装Python。 3. 沿着本节底部的链接进入论坛，在那里可以寻求帮助、讨论这本书，并通过与作者和社区接触来找到问 题的答案。 Discussions7 6 https://discuss.d2l.ai/ 7 https://discuss.d2l.ai/t/2086 8 目录 安装 我们需要配置一个环境来运行 且愿意在证明之前尝试。这种在 处理统计问题上新发现的经验主义，加上人才的迅速涌入，导致了实用算法的快速进步。尽管在许多情况下， 这是以修改和重新发明存在了数十年的工具为代价的。 最后，深度学习社区引以为豪的是，他们跨越学术界和企业界共享工具，发布了许多优秀的算法库、统计模 型和经过训练的开源神经网络。正是本着这种精神，本书免费分发和使用。我们努力降低每个人了解深度学 习的门槛，希望读者能从中受益。

发工具。在 pytorch 发布之后两年的 2018 年 facebook 又把 caffe2 项目整合到 pytorch 框架中，这样 pytorch 就进一步 整合原来 caffe 开发者生态社区，因为其开发效率高、特别容 易构建各种复杂的深度学习模型网络，因此很快得到大量人工 智能开发者的认可与追捧，也成为工业界最受欢迎的深度学习 框架之一。 Pytorch 发展至今，其版本跟功能几经迭代，针对不同的场景 PyCharm 的安装与配置 首先是从 Pycharm 官方网站上下载 Pycharm，版本有专业 版与社区版之分，社区版免费使用而专业版则需要付费使用。 Pycharm 官方网站如下： https://www.jetbrains.com/pycharm/ 点击就可以下载专业版试用或者社区免费版，默认安装之后就 可以通过桌面图标双击打开如下： 图 1-5（Pycharm 导航页面） PyTorch

Imaging Library) 为 Python 解释器添加了图像处理功能。但是，在 2009 年发布 1.1.7 版本后，社区便停止更新和维护。 Pillow 是由 Alex Clark 及社区贡献者 一起开发和维护的一款分叉自 PIL 的图像工具库。 至今，社区依然非常活跃，Pillow 仍在快速迭代。 Pillow提供广泛的文件格式支持，高效的内部表示和相当强大的图像处理功能。 核

• 带来新的信息 • 让产生的答复与之前的不同 • 语义要连贯 • 加入互信息：同时考虑从answer到question的概率 Deep Reinforcement Learning for Dialogue Generation 闲聊机器人：其他因素 • 小心你的训练数据 • 如何引入上下文信息 • 如何加入外部信息 • 如何产生个性化答复 总结：三个Bot框架 • IR-Bot（成熟度： “能不能通过分析上课视频，来解答学生的问题？” • 对话设计师：怎么更优雅地达到目的 • “公交车上你会给老人让座吗？” • 做能做且有价值的事，努力把不能做的事变成可做的 Thanks 爱因互动，欢迎你的加入

patch块可以重叠(上图没有重叠，是9x9的patch块) 2.模型介绍 11 将patch打平， 对每个 patch 进行线性映射，提取特征 2.模型介绍 12 提取特征 2.模型介绍 13 1.将位置编码信息加入提取的特征 2.模型介绍 14 位置编码信息对准确率的影响 2.模型介绍 结论:编码有用,但是怎么编码影响不大,干脆用简单的得了 2D(分别计算行和列的编码,然后求和)的效果还不如1D的每一层都加共享的 左图展示了模型学习到的图嵌入，中图展示了学习到的位置嵌入，右图展示了不同层注意 力的平均距离。 2.模型介绍 22 加入位置信息的原因 如下图所示，将左图的patch打乱，则两个图是不同的，但 对于Transformer的最后一层来说会得到相同的特征(认为是 一个图)，为了让其能够识别是两个图，加入位置信息(使 两个图不一样)。 2.模型介绍 23 Patch 打平的具体做法 标准Transformer的输入是1D序列，对于图像

AdaBoost算法 AdaBoost（Adaptive Boosting，自适应增强），其自适应在于：前 一个基本分类器分错的样本会得到加强，加权后的全体样本再次被用来 训练下一个基本分类器。同时，在每一轮中加入一个新的弱分类器，直 到达到某个预定的足够小的错误率或达到预先指定的最大迭代次数。 后一个模型的训练永远是在前一个模型的基础上完成！ 12 Adaboost算法 算法思想 • 初始化训练样本的权值分布，每个样本具有相同权重； ?? + Ω ?? + ???????? Ω ?? = ?? + 1 2 ? ෍ ?=1 ? ??2 ????? ?????? 3.XGBoost 保留? − 1轮的模型预测结果 加入新的预测函数 30 ??? ? ≈ ෍ ?=1 ? L ??, ො?(?−1) + ???? ?? + 1 2 ℎ??? 2(??) + Ω ?? + ???????? = ෍ ?=1 ?? 2 ?? + ? − (?? + ??)2 ?? + ?? + ? − ? 3.XGBoost 分裂后左子树分数 分裂后右子树分数 分裂前左、右子树的分数： 不分割可以拿到的分数 加入新叶子节点引入的复杂度代价 34 3.XGBoost 使用贪心方法，选增益（ ???? ）最大的分裂方式 贪心方法，众多????中找到最大值做为最优分割节点（split point），因此模型会