OPENSOURCE TECHNOLOGY CONFERENCE # OPEN SOURCE, INTO THE FUTURE # Rust并行编译的挑战与突破 李原 2022年5月28日 ## 目录 - 相关浅谈 - Rust并行编译的挑战与突破 - 从并行编译到并行程序设计 - Rust社区与并行编译 |4 \[u8]>|OwningRef<Box<dyn Erased>, \[u8]>| ## 共享数据结构的性能损耗问题 ## 基于条件编译的共享数据结构实现 缺点：用户需自行生成编译器 ## 挑战：消减共享数据结构效率损失 ## Specailization —— 基于GAT的共享数据结构实现 ![Image](/uploads/documents/4/a/8/b/4a8bb6fe19e

## 阿里巴巴核心应用落地 Service Mesh 的挑战与机遇  周遥 xuanyin.zy@alibaba-inc.com  ## 主题 ·现状及行业态度 ·带来的变化和发展机遇 · 核心应用落地所克服的挑战 ## #1 现状及行业态度 ## 行业现状 ·时隔两月 Istio 发布了 1.4，迭代迅速 · 国内 Service Mesh 相关书籍出版三本以上 ·各大厂积极部署推进，蚂蚁金服影响力最大 打通技术鸿沟 ## 三 位一体，构建经济共同体 商业赋能 标准化生产 场景验证 技术输入 技术社区 内部支撑 反哺增强 ## #2 阿里巴巴在落地 Service Mesh 中遇到的挑战 ## #1 在 SDK 无法升级的情形下如何实现应用的 mesh 化 ·没有人力修改 RPC-SDK，应用不想升级 1. Istio 通过 iptables NAT 表所使用到的 nf_contrack

# Knative和Istio在serverless公有云平台中的应用，实践和挑战 张龚, Advisory Software Engineer, IBM中国研发中心 ## 介绍  张龚(Grace), zhanggbj@cn.ibm.com Cloud Foundry ## 大纲 ■ 基于Knative和Istio的Serverless公有云平台简介 Istio在Knative平台中的应用，实践和挑战 ✓ 使用场景 ✓ 性能调优 ✓ 启用service mesh的挑战和优化 · 展望 ## 基于Knative和Istio的Serverless公有云平台简介 - Knative 和 Istio Knative is an open Focus on your code and not on configuring and securing clusters or VMs. ## I stio在Knative平台中的应用，实践和挑战－使用场景 ## - Istio as an Ingress Gateway • By default, Knative does not enable service mesh, it uses

|---| |跨学科融合：将“舆论分析”概念与其他领域的最新具有突破性的理论深度结合，提出极其具有创新的交叉领域的十个问题。| |探索“舆论分析”概念的基础理论、哲学基础或科学原理等深层次原理，提出挑战这些基础的前所未有的突破性十个问题。| |舆论分析这个概念在最前沿科技或理论中的潜在应用，列出十个充满想象力和震撼性，前所未有的应用。| |如果要量化研究审美智能概念，请提出一个合理的、有效的、各指 助学术研究和论文撰写|文本较为学术，内容涵盖引言、各层面的分析，总结与展望、参考文献|文本贴近学术综述，内容涵盖了引言、研究现状、参考文献|文本倾向于事实现状，内容包括历史背景、当前趋势、应用领域、挑战与局限、未来方向等，结构清晰，适合用于行业分析和趋势预测| |参考文献管理|参考文献数量相对更多，涵盖国内外学术文献，参考文献标注格式规范，引用的文献来自真实数据源，确保内容的准确性和可靠性|参考文 贯。在研究现状部分，按照不同研究领域和主题进行分类，逻辑性强|报告整体呈现出总分总的逻辑架构，语言描述清晰，避免冗长，使用简短的句子表达复杂的信息|报告整体架构严谨，以引言、技术原理、应用现状、技术挑战、未来展望等部分进行层层递进。语言中多使用中性描述，客观呈现研究进展与问题|语言逻辑严谨，条理清晰，各部分之间逻辑关系明确。在历史背景和当前趋势部分，按照时间顺序和技术创新进行分类，逻辑性强| |内

平台缺失：快速的业务迭代下，需要有一个平台可以帮助业务快速地进行模型和特征的管理，包括但不限于配置、上线、灰度、验证等等。 Augur 场景多，层级多，业务多 特征多，模型复杂，时间短 平台缺失：难复用，难管理 挑战 5+层排序框架 千级 原始特征及 交叉特征 数十个业务需要排序 上万个特征，数千个模型的配置 千级 doc 预估需高性能支持 • 近十种 深度网络 复用，开发，测试，灰度，回滚 管理，监控，文档 C提升了234BP。目前，场景切分依赖Query意图模块进行硬切分，后续自动场景切分也值得进行探索。 ## 应用实践 由于 BERT 的深层网络结构和庞大参数量，如果要部署上线，实时性上面临很大挑战。在美团搜索场景下，我们对基于 MT-BERT Fine-tuning 好的相关性模型（12 层）进行了 50QPS 压测实验，在线服务的 TP99 增加超过 100ms，不符合工程上线要求。我们从两方面进行了优化，通过知识蒸馏压缩 |缺点|管理难度大 难保证公平性|配置粒度粗| 排班方案选型 配送团队最终选用的是按组排班的方式，把所有骑手分成几组，规定每个组的开工时段。然后大家可以按组轮岗，每个人的每个班次都会轮到。 这个问题最大的挑战是，我们并不是在做一项业务工具，而是在设计算法。而算法要有自己的优化目标，那么排班的目标是什么呢？如果你要问站长，怎么样的排班是好的，可能他只会说，要让需要用人的时候有人。但这不是算法语言，更不能变成模型语言。

曾任职于新浪、百度、金山 《Puppet实战作者》《Puppet实战手册》《Python进阶》 • QCon金牌讲师，QCon优秀出品人 ## 目录 ① 行业趋势分析 ② 多云下运维的挑战 ③ 多云平台架构如何设计？ ④ 困难以及挑战 资源统一管理 ★ 监控 ★账单 ⑤ 未来的展望 ## 行业趋势分析 全球云服务费用预测 （根据部署模式）  ## 多云下运维的挑战 ## 业务架构不断演变 LVS LVS Nginx Nginx Nginx DB DB LVS LVS LVS LVS Ngx Ngx Ngx Ngx Ngx Ngx DB DB DB DB ## 多云下运维的挑战 ## Region LVS LVS Ngx Ngx Ngx Ngx DB DB ## 机房 LVS LVS Ngx Ngx Ngx DB DB ## 海外 LVS LVS Ngx Ngx Ngx DB DB ## 多云下运维的挑战 云故障时，影响不及时 —> 不可控 集中式监控成本高 —> 难统一 排查定位问题成本高 —> 跨度大 业务成本难以核算 —> 账单难处理 o o o ## 云管平台架构设计

AI 的三岔路口：专业模型和个人模型 40 | 2024 年 AI 编程技术与工具发展综述 45 | RAG 的 2024：随需而变，从狂热到理性 51 | 大模型训练中的开源数据和算法：机遇及挑战 57 | 2024 年 AI 编程工具的进化 62 | AI 开发者中间件工具生态 2024 年总结 66 | AI Agent 逐渐成为 AI 应用的核心架构 68 | 谈开源大模型的技术主权问题 术细分领域中却拥有非常强的影响力和活跃的开发者社区。 两者的不同发展模式相互补充，共同推动了国内开源生态的繁荣与多样化。 ## 本年度最受开发者喜爱的开源组织 开放开源社区 虽然面临资源的挑战，但它们的灵活性和社区驱动力使得它们获得了更多开发者的支持。 ## 本年度最活跃的开源组织 ![Image](/uploads/documents/4/4/d/2/44d20419d5f952cf 5B 模型通过与高通 GenAI 扩展的联合优化，在搭载骁龙 8 Gen 4 处理器的手机上实现了每秒 65 个 tokens 的推理速度，接近人类语音的平均输出速率。尽管存在电池续航和内存占用过大等挑战，端上模型代表了 AI 技术隐私保护和成本优化的未来方向。中国在这一领域的探索，为行业提供了宝贵经验。 ## 推理扩展法则的潜力释放 通过推理扩展法则，模型性能可通过延长“思考时间”而进一步优化

在Go程序中支持GPU加速 使用 Go 进行 GPU 计算的挑战 总结 大纲 与 GPU 进行交互的基本知识 使用 GPU 的动机 GPU 驱动和标准 渲染管线和计算管线 Vulkan/Metal/DX12/OpenGL 在 Go 程序中支持 GPU 加速 使用 Go 进行 GPU 计算的挑战 总结 使用GPU加速计算的动机 提高系统计算性能 更大的并发量 ’ alt=‘OCR图片’/> 大纲 与GPU进行交互的基本知识 在Go程序中支持GPU加速 使用GPU进行加速的基本思路 两个例子 需要考虑的问题 使用 Go 进行 GPU 计算的挑战 总结 在Go程序中支持GPU加速基本流程 ’ alt=‘OCR图片’/> 准备工作：驱动-以 Metal 为例 package mtl // import “changkun.de/x/go 资源共享 频繁 同步回调 大纲 与 GPU 进行交互的基本知识 在 Go 程序中支持 GPU 加速 • 使用 Go 进行 GPU 计算的挑战 ○ Cgo 的开销 ○ 基础设施的积累 ○ 设计 GPU 的统一抽象 ○ 着色器的编写和调试 挑战1: Cgo的成本 所有涉及显卡相关的操作或多或少涉及系统调用，最简单的方式就是引入 Cgo /* #cgo CFLAGS: -Werror -fmodules