基于Azure的Python机器学习 平安金融壹账通大数据研究院 微软MVP 王大伟 目录 CONTENTS Azure与Python 如何用Azure完成机器学习 Azure与自动机器学习 Azure的相关学习资料 Azure与Python 日渐流行的Python TIOBE给出的排行榜是具有权威性质的，是判断语言流行趋势的指标。 TIOBE排行榜的网址是：https://tiobe

李斌 阿里云容器服务 全民双十一 基于容器服务的大促备战 关注“阿里巴巴云原生”公众号 回复 1124 获取 PPT我是谁挑战在哪里？ 极限并发 人为失误 系统瓶颈 雪崩 单点失效 成本控制 用户体验 最终一致性 稳定性 资源不足 资源利用率 安全风险备战工具箱 服务化 开发运维一体化 弹性 极致性能 高可用 全站上云 安全加固 人工智能 大数据

LLM 技术报告 大语言模型（LLM） 技术作为人工智能领域的一项重要创 新在今年引起了广泛的关注。 LLM 是利用深度学习和大数据训练的人工智能系统，专门 设计来理解、生成和回应自然语言。这些模型通过分析大量 的文本数据来学习语言的结构和用法，从而能够执行各种语 言相关任务。以 GPT 系列为代表，LLM 以其在自然语言 处理领域的卓越表现，成为推动语言理解、生成和应用的引 擎。 LLM 2 / 32 LLM Tech Map  向量数据库  数据库向量支持  大模型框架、微调 (Fine Tuning)  大模型训练平台与工具 基础设施 LLM Agent  备案上线的中国大模型  知名大模型  知名大模型应用 大模型 算力 工具和平台  LLMOps  大模型聚合平台  开发工具 AI 编程  插件、IDE、终端  代码生成工具 32 LLM 基础设施 01 03 02 04 向量数据库/数据库向量支持 为大模型提供高效的存储和检索能力 大模型框架及微调 (Fine Tuning) 大模型框架提供基本能力和普适性，而微调 则是实现特定应用和优化性能的关键环节 大模型训练平台&工具 提供了在不同硬件和环境中训练大语言模型 所需的基础设施和支持 编程语言 以 Python 为代表 5 / 32 LLM

AutoGPTQ，这意味着您能够直接在 Transformers 中使用量化后的模型。以下 是一个非常简单的代码片段示例，展示如何运行 Qwen1.5-7B-Chat-GPTQ-Int8 （请注意，对于每种大 小的 Qwen1.5 模型，我们都提供了 Int4 和 Int8 两种量化版本）： from transformers import AutoModelForCausalLM, AutoTokenizer chat_response) 1.10.4 多卡分布式部署 要提高模型的处理吞吐量，分布式服务可以通过利用更多的 GPU 设备来帮助您。特别是对于像 Qwen1. 5-72B-Chat 这样的大模型，单个 GPU 无法支撑其在线服务。在这里，我们通过演示如何仅通过传入参数 tensor_parallel_size ，来使用张量并行来运行 Qwen1.5-72B-Chat 模型： from vllm OOM（内存溢出）问题。我们推荐您尝试两个参数进行修复。第一个参数是 --max-model-len 。我们提供的默认最大位置嵌入（max_position_embedding）为 32768，因此服务时的最 大长度也是这个值，这会导致更高的内存需求。将此值适当减小通常有助于解决 OOM 问题。另一个您可以 关注的参数是 --gpu-memory-utilization 。默认情况下，该值为 0.9 ，您可以将其调高以应对

大容量redis存储方案--Pika 陈宗志 360基础架构组技术经理 SACC2017 简介 • 13年入职360 基础架构组 – Bada – Pika – Zeppelin – Mario, Pink, slash, floyd • https://github.com/Qihoo360 SACC2017 概要 • 存在问题 • 分析问题 • 解决问题 • Pika vs redis SACC2017 • Pika 是DBA 和 基础架构团队一起设计开发的 大容量redis的解决方案 • 完全兼容redis 协议, 用户不需要修改任何代码 进行迁移 Introduction SACC2017 • Redis实例数量：6000+个 • 日访问量：5000+亿 • Pika数据数量：1000+个 Pika 力求在完全兼容 Redis 协议、继承 Redis 便 捷运维设计的前提下通过持久化存储的方式解决 Redis 在大容量场景下的问题 Pika 定位 SACC2017 Redis 问题 • 恢复时间长 • 一主多从, 主从切换代价大 • 缓冲区写满问题 • 成本问题 SACC2017 Redis 问题 • 恢复时间长

基于go和flutter的实时通信/视频直播解决方案 段维伟 湖北捷智云技术有限公司 创始人 目 录 背景 01 技术简介 02 客户端 03 服务端 04 开源社区 05 Q&A 06 背景 第一部分 即将讲述的内容 • WebRTC 实时通讯 • Flutter 跨平台UI 开发框架 • 基于Flutter UI 框架的WebRTC 插件 flutter-webrtc

--πDataCS简介 兼容龙蜥的云原生大模型数据计算系统 拓数派产品市场总监 吴疆 吴疆 深耕云计算和数据库行业十余年 拓数派(Openpie)产品市场总监 毕业于清华大学计算机系，先后在IBM，EMC， Pivotal，VMWare参与多个云平台和数据库项目 01 拓数派简介 πDataCS简介 02 πDataCS与龙晰 03 01. 拓数派简介 海 外 研 发 拓数派旗下大模型数据计算系统（PieDataComputing System，缩写πDataCS），以云原生技术 重构数据存储和计算，一份存储，多引擎数据计算，全面升级大数据系统至大模型时代，使得自主可 控的大模型数据计算系统保持全球领先，成为AI的基础科技底座的同时，开启AI技术的新范式。 πDataCS旨在助力企业优化计算瓶颈、充分利用和发挥数据规模优势，构建核心技术壁垒，让大模 型技 与东吴证券在数仓虚拟化和信创领域展开试点合作 12月 创始人冯雷再度荣登数字商业周刊“年度智造中国商业领袖” 4月 冯雷被评为杭州市所有的独角兽和准独角兽企业 中唯一“年度创业人物” 打造大模型时代 立身中国的世界级团队 首家以虚拟数仓通过信通院/可信AP数据库评测 7月 拓数派数据计算引擎PieCloudDB虚拟数仓再获信创认可 8月 拓数派入选中国信通院“铸基计划”「高质量数字

大模型时代下向量数据库的设计与应用 个人简介 目前在拓数派负责向量数据库PieCloudVector产品，聚焦于大模型 与大数据领域。拥有多年数据库内核研发和配套解决方案架构经验， 在加入拓数派前曾就职于开源大数据平台Greenplum团队，担任外部 数据源访问框架，对象存储访问扩展，ETL工具等产品模块的研发， 并曾参与PostgreSQL多个版本的代码贡献，拥有丰富的存储模块核心 开发和性能优化等实践经验。 邱培峰 拓数派向量数据库负责人 拓数派：大模型数据计算系统先行者 • 拓数派（ OpenPie）是立足于国内的基础数据计算领域高科技 创新机构； • 拥有强大的数据库内核研发团队、数据科学团队和数字化转型团 队； • 国内虚拟数仓和eMPP技术提出者，不断在数据计算引擎方向进 行创新，全面拥抱AI技术趋势。 目录 • 大模型应用和RAG • 向量近似搜索和向量数据库 • • PieCloudVector架构设计与挑战 • 案例介绍 大模型 检索增强生成(RAG) 使用大模型可以构造问答，聊天等应用，但同时也存在以下问题 • 数据时效 - LLM训练数据有截止日期，不包含最新信息，无法准确回答相关信息 • 私域数据 - LLM训练数据多来源于公开渠道，无法接触到私域数据，对特定领域的生成任务质量不高。 • 长期记忆 - LLM本身却没有长期记忆能力，对长时间交互的上下文

种“历史感”。当我们更多具备这样的历史感，更多以将来会被人回 看的心态，来做这些事情时，我们又该如何抉择？又该如何行动呢？ 当然，千里之行，始于足下。那个我们无限向往的未来，也只能由 我们的点滴努力来塑造。与诸位共勉吧！ 庄表伟，开源社理事长 2022 年 1 月 14 日 4 2021 中国开源年度报告问卷篇 …………………………………………… 10 1 报告背景 …………………………………………………………………………………… 于调研的分析报告不过是纸上谈兵。问卷 从两个角度展开，其中包括个人信息（包括工作信息和开发者技术信息）和开源社区参与 情况，与往年不同的是，今年我们加入了开源社区度量和开源商业化相关的话题，欢迎大 家参与问卷并发表自己的想法。 通过 44 项左右问题的统计调查与分析，我们希望能够还原出当前中国开源社区的真实现状， 从而为开源的后来人提供权威的参考。 调查对象 ：覆盖开发者、社区成员、贡献者、学生、政府企业管理人员 公司在购买开源产品时，多由工程团队负责人（技术总监 / 架构师 /TL）来进行产品的选择， 而且在同类型软件的购买中，半数的人会考虑软件供应商对开源社区的贡献，但不是主要 的考虑因素，只有在产品性能差别不大时，才会选择对开源社区贡献大的供应商。 参与者首次参与 / 转而参与开源项目的原因多为主观原因，例如更好的技能施展空间、更和谐的 社区氛围、更多的朋友，而应公司所在组织的要求来参与开源社区的占比很小。 与去年类似，参与开源

GitHub 宣布我们托管了 1000 万个项目、拥有大概 500 万注册开发者账户与 大概 230 名员工。 爱它也好，恨它也罢，当我坐下来写第一版时，GitHub 以 一种意想不到的方式猛烈地改变了一大批开源社区。 我在 Pro Git 的原始版本中写了一节我并不是很满意的内容，是作为和提供 Git 托管服务相关的例子的 GitHub。 我在书里写的东西本质上都是和社区有 关的，但是又不得不讨论到我的公司，这点我不喜欢。 1.1 关于版本控制 @Lax 许伟程 1.2 Git 简史 @Lax 1.3 Git 基础 @Lax @Geno1024 章节 译者 审校者 1.4 命令行 @hbrls @spacewander 1.5 安装 Git @Lax 许伟程 1.6 初次运行 Git 前的配置 @networm @xinqiu @robinwen @ahlijin 许伟程 1.7 获取帮助 @Lax 1 @devbean 2. Git 基础 2.1 获取 Git 仓库 @alamier @networm 2.2 记录每次更新到仓库 @alamier @networm 许伟程 2.3 查看提交历史 @alamier 许伟程 2.4 撤消操作 @networm @pktangyue @robinwen @ahlijin 2.5 远程仓库的使用 @networm @pktangyue @ahlijin