观 点 编委会 21 | 2024 年中国开源模型：崛起与变革 26 | 开源模型未必更先进，但会更长久 30 | 大模型撞上“算力墙”，超级应用的探寻之路 36 | AI 的三岔路口：专业模型和个人模型 40 | 2024 年 AI 编程技术与工具发展综述 45 | RAG 的 2024：随需而变，从狂热到理性 51 | 大模型训练中的开源数据和算法：机遇及挑战 57 | 2024 开发者中间件工具生态 2024 年总结 66 | AI Agent 逐渐成为 AI 应用的核心架构 68 | 谈开源大模型的技术主权问题 72 | 2024:大模型背景下知识图谱的理性回归 77 | 人工智能与处理器芯片架构 89 | 大模型生成代码的安全与质量 93 | 2024 年 AI 大模型如何影响基础软件行业中 的「开发工具与环境」 98 | 推理中心化：构建未来 AI 基础设施的关键 Part 高瞻，Gitee AI 运营 设计：张琪 开发者是开源生态的重要支柱。 本章结合 、 的数据分 析，勾勒 2024 年中国开源开发者的整体画像趋势轮廓，主要 反映中国开源开发者使用开源大模型概况、开源项目/组织健康 度，以及中国开源社区的生态评估等情况。 Gitee 数据篇 本报告数据来源：2024年1月至2024年12月 Gitee及Gitee AI平台相关公开数据 4 / 111

海外⼈才加⼊：
i. ⼤模型⽅⾯。团队成员发明了RoPE相对位置编码，是Meta
LLaMa和Google
PALM等⼤多数 主流模型的重要组成部分；发明了group
normalization，是Stable
Diffusion等AI模型成功 的关键组件；发明了
Transformer-XL，是历史上第⼀个在词级别和字级别都全⾯超越RNN 的注意⼒语⾔模型，解决了语⾔建模上下⽂⻓度的关键问题，定义了语⾔建模的新标准；曾 机器）分 布式系统数量级性能优化的经验。
c. ⽬前团队⼈数超过
80
⼈，每个⽉都有在全球某个领域有显著影响⼒的⼈加⼊。
2.
团队聚焦底层技术创新，技术Vision强
a. 引领⼤模型的“⽆损⻓上下⽂”时代。2023年10⽉上旬，在产品
Kimi
智能助⼿中实现“⽆损 ⻓上下⽂窗⼝（Lossless
Long
Context
Window）”，⽀持
20
万汉字输⼊，实现对⻓⽂本的⽆ 和中⽂能⼒上
Kimi
智能助⼿依然领先。
b. 聚焦底层技术创新，不⾛技术捷径。最早提出“Lossless
Long
Context
可以解决
90%
以上的 模型定制问题”，坚持对数据的⽆损压缩，实现模型能⼒的提升，不⾛技术捷径（通过滑动窗 ⼝、降采样、⼩模型等技术实现上下⽂窗⼝延⻓，都是“技术捷径”）
c. 通过这篇⽂章，您可以了解更多技术⽅⾯信息：专访⽉之暗⾯杨植麟：lossless
long
context
is

PRODUCT 基于可视化编程语言 基于通用语言封装的可视化开发语言，具 备完善的静态类型系统和组件扩展机 制，适合 80% 企业级应用开发，灵活性 高，可靠性强。 数据模型驱动 可视化构建实体、数据结构、枚举等低 代码数据模型，自动生成数据库表和页 面交互。 支持企业集成 能够通过 API 集成企业内部的服务，实 现应用组装。 业务与流程融合 流程引擎基于 BPMN2.0 规范，可视化 安装包等、耗费人力 工具本质 人员基础要求 适用业务 研发效率和成本 对现有体系影响 应用管理平台 对比项 轻舟低代码 基于通用标准语言封装而成的 可视化开发语言 熟悉IT概念，思维逻辑清晰 大中专计算机专业即可 基于宿主语言 可满足80%业务研发需求 显著加快开发速度 为公司降低开发成本 影响较小 可灵活集成公司现有研发资产 提供一站式云原生应用管理平台 灵活管理应用及制品 数仓设计中心 指标设计 模型设计 数据治理中心 数据质量 数据地图 数据资产 数据标准 UDF管理 任务开发 版本管理 任务运维 资源管理 任务上线 数据服务中心 智能BI 数据准备 大屏 自助取数 移动应用 数据填报 全渠道 数据融合 会员 标签管理 用户分群 营销 活动管理 投放数据 追踪 活动数据 分析 特征治理 模型管理 交互式建模 可视化建模

1 1 /*使用电脑阅读，获得最佳体验 1 1 序 毫无疑问，开源开发者圈子来看，2023 年是大模型 LLM 年、生成式 AI GenAI 年。 一、 这自然要从 OpenAI 说起，前一年年底，ChatGPT 的横 空出世，标志着对话式 LLM 开始进入公众视野，为人们 提供了全新的人机交互方式。而 2023 年 3 月，同系 GPT-4.0 的发布则将 LLM 的规模和能力提升到一个新 Google 紧随其后推出 Bard，作为其首次亮相的对话 LLM 产品，无疑具有其里程碑意义，尽管它的首秀并不尽 如人意，车翻了又翻。 三、 Claude 2、PaLM 2、Llama 等模型与产品也展现了 LLM 在语言理解和多模态处理能力方面的探索，甚至 Claude 2 还一度被誉为实力可以硬刚 ChatGPT。而 Meta 开源的 Llama 2 更成为了 LLM 领域开源势力的典型代表，它的 广大的个人用户和创意行业提供了强有力的工具，彻底改变 了数字艺术内容的创作方式。同时，它们也引发了人工智能 在创作领域的伦理和法律讨论。LLM 杀进多媒体领域。往 后 DALL-E 3 模型升级、Adobe 产品整合 LLM 能力、 语音模型 whisper-3 更新、AI 虚拟主播创造等，都是在 这条路上的进一步发展。 五、 AI 编程方面，Copilot 可以根据开发者的代码提示自动补 全代码，大大

国内基础软件开源界定 基础软件 具备能衍生出并支撑 多个技术簇的一类根 技术软件，拥有技术 门槛高、衍生场景复 杂等特点 中间件：不同系统和应用程序之间交互 与协作的桥梁 AI框架：具备构建和部署人工智能模型 的基础的全套开发工具 操作系统：是软硬件资源的资源管理者， 为用户与应用程序提供交互接口 数据库：通过对数据的访问与管理，支 持各种应用程序和业务的需求 编程语言：人与计算机交互的“语言”， （ 工 业 交 通 金 融 ） 通用性强： 同一数据库 可以轻松扩 展至其他互 联网平台 架构复杂： 多为单体应 用，架构上 耦合度较 高，代码难 度高 架构轻：前 端展示、中 层业务处理 逻辑、后端 数据库 “求稳定”：更注重 系统对业务的安全性 和稳定性的支持，因 而采用自建服务器或 私有云的运营方式 “求灵活”：更注重 系统对业务快速扩张 和灵活变动的支持， 因而更多采取订阅云 服务的轻资产模式 云原生中间件特色：底层资源容器化，同时通过组件化、 事件驱动等设计原则让中间件更具备低耦合、标准化等特 性，拥有屏蔽底层技术细节、减免架构复杂度带来的管理 难度，对底层流量等资源配置更加灵活等优势，让开发者 集中注意力至业务逻辑，花费更少时间在非业务核心功能 管理上，构建出更敏捷稳定的应用程序。 云原生中间件开源现状：企业对于云原生整体生态开源贡 献较为活跃，但是在云原生中间件板块，国内并未形成体 系化的发展，开源社区较为分散，尚不能形成统一的标准、

行修改发布时保留原来的开源许 可证——这就意味着必须将修改后的软件也公开源代码，换言之，经修改后的软件无法“闭源”。也就是说，企业可以对这一 软件进行收费，但同时也需要免费提供这一软件，从一般的商业逻辑上看这有些矛盾，正是在这个层面上，传染性开源许可证 与“商用”有一定的冲突。 • 部分开源许可证整体上具备“传染性”，但是能够在满足一定条件的情况下允许闭源，变得不存在任何商用的阻碍，典型代表 即为上表中右侧的LGPL、EPL。 www.iresearch.com.cn 来源：艾瑞咨询研究院自主研究及绘制。 企业的开源商业模型（一） 软件开源为企业带来直接收益、渠道收益、行业生态收益 从商业成功的角度上看，企业发布开源软件能够为自身带来直接商业化收益、渠道收益和市场影响力提升带来的产业协同 收益。其中，直接商业化收益 开 源运营，而开源运营的核心是通过不断提升用户和贡献者的数量来构建“质”和“量”互相驱动和促进的良性循环。如果 没有成功的开源运营，软件开源就无法产生显著的商业化效果。 企业实施软件开源战略的商业模型 企业之内 企业之外 软件开源 用户增长 加速创新 产品升级 提供付费订阅版本 提供专业配套服务 引流产生广告收入 直接 商业化 渠道化 为互补产品宣传、导流 提升企业市场声量

陈阳：有12%的参与者从开源中获得兼职或全职收⼊， 开源布道师， 开源运营经理， 开源 开发者等都是2020年的热⻔职业，这说明开源的⽣态正在进⼀步完善， 企业开始进⾏开源⼈ 才储备，开源的商业逻辑正在明晰。 4.5 远程办公 远程办公是当下⾮常重要的⼀种办公⽅式，在参与者中，有⼋成认为远程办公是重要的，并且 有接近九成的参与者有过远程办公的经历。 【专家点评】 ⾼阳：远程办公会变 全域事件⽇志进⾏统计分析（2020 年共计 8.74亿条），相较 2019 年的 5.46 亿条增⻓约 60%。并对分析出的部分项⽬进⾏⼈⼯标注，挑选出中国的个⼈开发 者和企业组织，同时构建了科学合理的数学模型进⾏分析。 在开发者活跃度与项⽬活跃度的定义下，本次统计得到 2020 年总活跃项⽬数量约 5,373万 个，相较 2019 年的约 3,972 万 增⻓约 35.3%；2020 年 GitHub 活跃度，也可以看出其社区的活跃程度。 百度在⼈⼯智能领域的表现⾮常不错，其深度学习平台 PaddlePaddle 占据了 6 个项⽬，分 别是核⼼框架 Paddle 以及相关⼯具库、扩展版本和模型库 Models；此外开放⾃动驾驶平台 ApolloAuto/apollo 也榜上有名。 中国的 Top50 项⽬列表中，包括阿⾥的 Ant-Design 组件库，京东基于 React 前端框架的

Face、微软、英伟达与Stability AI等 顶尖人工智能提供商，共同参与对生成式人工 智能系统的公开安全评估。 AI Village组织方将这个合作活动描述为“有史 以来规模最大的人工智能模型红队演习”。将 有数千人参与对公共人工智能模型的评估，期 间使用的评估平台由Scale AI负责开发。 近日，微软发布了一个补丁，用于修复Secure Boot绕过漏洞。在2023年1月份，微软释出补 丁修复了编号为CVE-2022-21894的漏洞，但 多的人了解如何开展红队测试和评估人工智能模 型，才能解决这些模型中的各种问题。”通过对 人工智能模型组开展最大规模的红队演习，AI Village和DEF CON希望能培养出处理人工智能 系统漏洞的研究者社区。事实证明，大语言模型 的锁定难度远超想象，部分原因在于所谓“提示 词注入”技术。人工智能研究员Simon Willison 详细介绍了提示词注入的危险，这种技术可以令 语言模型偏离正轨，执行创建者想要回避的操 作。在DEF CON大会期间，参与者将通过主办方 提供的笔记本电脑定时访问多个大语言模型。并 将会有一个夺旗式的积分系统，促进测试各种潜 在威胁。积分最高的参与者将获得英伟达高端 GPU作为奖品。AI Village公告中写道，“我们将 公布从此次竞赛中得到的启发，帮助其他想要做 类似尝试的人们。希望越来越多的人能知晓该如 何使用大语言模型，了解这些模型的局限性。” 注释：“红队”测试，是指安全专家尝试在组织系

的工作地点与模式， 提高自身的人才储备来加速产品开发。 图表 5 ：开源提高开发人员生产力 资料来源：GitHub 2.2.2 开源软件具有的 Product-Led Growth（PLG）模型特征可以促进付费转化 PLG 模式主要通过自下而上的销售模式进行获客，产品是整个销售过程的核心。PLG 模式的增长飞轮 有三个主要阶段 ：获客、转化、留存。在这三个阶段中，开源都有着区别于传统商业模式的优势。 资料来源：各公司公告，云启资本 2021 中国开源年度报告 83 未来开源 4.0 时代 Serverless 将成为开源与云计算结合的新模式。无服务器（Serverless）是一种云原生开发模型，可 使开发者在无需管理服务器的情况下专注构建和运行应用。无服务器方案将服务器从应用开发中抽 离，由云供应商负责置备、维护和扩展服务器基本架构，而开发者则可仅将代码打包到容器中进行 部署。Serverless Licensing 限制性许可——通过提供一个带有稍带限制的开源许可证来激励使用者进行付 费。GPL 和 AGPL 许可，以及新创建的 Commons Clause（被某些 Redis 模块采用）都是这种模型 的例子。特别是 AGPL 和 Commons Clause（以及 MongoDB 推出的新 SSPL）也是旨在防御公共 云提供商的许可证。这种方法的最大缺点是这些许可证会影响软件采用，通常会流失潜在用户。尤其是

increase their talent pool to accelerate product development. 2.2.2 开源软件具有的 Product-Led Growth（PLG）模型特征可以促进付费转化 The Product-Led Growth (PLG) model features of open source software could facilitate Licensing 限制性许可——通过提供一个带有稍带限制的开源许可证来激励使用 者进行付费。GPL 和 AGPL 许可，以及新创建的 Commons Clause（被某些 Redis 模块采 用）都是这种模型的例子。特别是 AGPL 和 Commons Clause（以及 MongoDB 推出的新 SSPL）也是旨在防御公共云提供商的许可证。这种方法的最大缺点是这些许可证会影响软件采 用，通常会流失 在项目的早期阶段，供应商创建和管理开发者社区，在欢迎开发者加入成为社区成员的同时保 持项目主导地位。个人、团体或企业为解决问题创建软件，并将软件项目代码公开化，这代表 着一个开源项目的开始。供应商通过构建沟通渠道、技术平台和治理模型等基础设施来创建开 发者社区。在社区创建时，供应商应该向开发者解释清楚项目的管理方式、项目主管、外界可 作出哪些贡献、以及项目是否由第三方基金会（如云原生计算基金会-CNCF 和 Apache 软件