单点问题。⼤模型时代，实现个性化的⼀种⽅式是微调，但我认为微调可能不是本质的⽅法，⻓期来 看可能不会存在模型的微调。为什么？当你的模型指令跟随能⼒、推理能⼒、上下⽂⼀致性能⼒越来 越强时，所有东西只需要放在内存⾥就可以。⽐如你的⼤模型内存有⼀堆
prefix
这样的东西⽤来
follow，成本可以降到⾮常低。最终，你对模型个性化的过程实际上就是你所有的交互历史，也是⼀ 个包含了你的偏好和反馈的集合，这些反馈会⽐上 ntext
这个决策是怎么做出来的？
杨植麟：我觉得最重要的还是以终为始地思考这个事。⼤模型作为新的计算机肯定也需要很⼤的内 存，因为旧的计算机的内存在过去⼏⼗年的时间⾥⾯⾄少增⻓了⼏个数量级，⽽且旧的计算机也是⼀ 开始的时候只有很少的内存。第⼆点就在于
AI
的终极价值是个性化。

海外独⻆兽：OpenAI
其实也有⼀定的
long-context
了。
杨植麟：它还没有把⽤⼾的 ⽂本处理能⼒，该 产品⽀持约20万字中⽂的上下⽂⻓度，使得整体表现⾮常惊艳。杨植麟认为，如今基于Transformer架 构的⼤模型，是“新时代的计算机”，参数数量决定计算复杂度，上下⽂⻓度决定内存⼤⼩⸺因此， 上下⽂⻓度是毫⽆疑问的关键所在。 上下⽂⻓度也正是近期AI圈中的⽐拼热点，各家都在这⼀指标上你追我赶。但这背后的核⼼问题在 于：什么才是真正有效的规模化？ 在演讲中，杨植麟表⽰

5B - RAM: 4GB - GPU: 集成显卡/现代CPU - 存储: 5GB - 内存: 8GB （M1/M2/M3） - 存储: 5GB 简单⽂本⽣成、基础代 码补全 7B - RAM: 8-10GB - GPU: GTX 1680（4-bit量 化） - 存储: 8GB - 内存: 16GB（M2 Pro/M3） - 存储: 8GB 中等复杂度问答、代码 调试 14B - RAM: 24GB - GPU: RTX 3090（24GB VRAM） - 存储: 20GB - 内存: 32GB（M3 Max） - 存储: 20GB 复杂推理、技术⽂档⽣ 成 32B+ 企业级部署（需多卡并联） 暂不⽀持 科研计算、⼤规模数据 处理 2. 算⼒需求分析 模型 参数规 模 计算精 度 最低显存需 求 最低算⼒需求 DeepSeek-R1 英伟达NIM：企业级GPU集群部署（链接） Groq：超低延迟推理（链接） 五、完整671B MoE模型部署（Ollama+Unsloth） 1. 量化⽅案与模型选择 量化版本 ⽂件体 积 最低内存+显存需 求 适⽤场景 DeepSeek-R1-UD- IQ1_M 158 GB ≥200 GB 消费级硬件（如Mac Studio） DeepSeek-R1-Q4_K_M 404 GB ≥500

开源。在大多数基准测试中，Mixtral 的成绩都优于 Llama 2-70B， 且推理速度提升了 6 倍。而且在大多数标准基准测试中超过 GPT-3.5。 10 / 87 1 1 爱奇艺客户端“白嫖”电视机带宽 1024“黄金眼” 关注 IT 相关民生事件，以老百姓的眼睛看 IT 圈，和开 发者零距离接触。 开源开发者事件回顾 人大毕业生盗取全校学生信息 网友发帖称，自己的电视机在息屏休眠状态时，居然持续保持着 Apache 2.0 许可下 发布。 Dragonfly 1.0 完全支持 Redis 最常见的数 据类型和命令，以及快照、主从复制和高可用 等特性。 DragonflyDB 是一个现代化的开源内存数据 库，兼容 Redis 和 Memcached API，迁移时 无需修改任何代码，可作为两者的替代方案。 Slint 1.0 于 2023 年 4 月发布，标志着项目已顺利从开发阶段 “毕业”， Doris 2.0.0 版本正式发布 sudo-rs 是互联网安全研究小组 (ISRG) 发起的 Prossimo 项目——用 Rust 重写 sudo 和 su，目标是提升它们在内存方面的安全性，确保它们不再遭 受内存安全漏洞的困扰，并进一步增强 Linux 和开源生态系统的安全性。 Bun 发布 1.0 正式版本 2023 年 9 月 8 日，JavaScript 运行时 Bun 正式发布

益于其统⼀解决⽅案和响应式开 发过程的独⽴和⼩型⼯作室。 Blender是⼀款跨平台的应⽤⼯具，可以在Linux、macOS以及Windows系统下 运⾏。与其他3D建模⼯具相⽐，Blender对内存和驱动的需求更低。其界⾯使 ⽤OpenGL，在所有⽀持的硬件与平台都能提供⼀致的⽤户体验。 谁在使⽤Blender？ Blender has a wide variety of tools making 在单独的播放器中播放渲染动画。 See also 动画播放器 的更多细节。 动画播放器 偏好设置，选择不同的动画播放器，⽽不是默认的。 锁定界⾯ 在渲染期间锁定界⾯，以便为渲染引擎提供更多内存。 窗⼜菜单 新建窗⼜ 复制当前窗⼜创建⼀个新窗⼜。 新建主窗⼜ 创建⼀个包含⾃⾝⼯作区与场景选择的新主窗⼜。 切换全屏 切换当前窗⼜全屏显⽰。 下⼀个⼯作区 切换到下⼀个⼯作区。 显⽰当前所选活动物体的名称。 ⼏何数据（Geometry） 根据模式和物体类型显⽰有关当前场景的信息。可以是顶点、⾯、三⾓ 形、或⾻骼的数量。 物体 所选物体的数量和总数。 系统内存 Blender内存消耗估计值。在单实例单机器的情况下，这个估计值提供了⼀ 个针对机器硬件限制的测量。 Blender 版本 当前运⾏的Blender版本。 区域边界由圆⾓（黄⾊⾼ 光）表⽰。 区域

益于其统⼀解决⽅案和响应式开 发过程的独⽴和⼩型⼯作室。 Blender是⼀款跨平台的应⽤⼯具，可以在Linux、macOS以及Windows系统下 运⾏。与其他3D建模⼯具相⽐，Blender对内存和驱动的需求更低。其界⾯使 ⽤OpenGL，在所有⽀持的硬件与平台都能提供⼀致的⽤户体验。 谁在使⽤Blender？ Blender has a wide variety of tools making 在单独的播放器中播放渲染动画。 See also 动画播放器 的更多细节。 动画播放器 偏好设置，选择不同的动画播放器，⽽不是默认的。 锁定界⾯ 在渲染期间锁定界⾯，以便为渲染引擎提供更多内存。 窗⼜菜单 新建窗⼜ 复制当前窗⼜创建⼀个新窗⼜。 新建主窗⼜ 创建⼀个包含⾃⾝⼯作区与场景选择的新主窗⼜。 切换全屏 切换当前窗⼜全屏显⽰。 下⼀个⼯作区 切换到下⼀个⼯作区。 显⽰当前所选活动物体的名称。 ⼏何数据（Geometry） 根据模式和物体类型显⽰有关当前场景的信息。可以是顶点、⾯、三⾓ 形、或⾻骼的数量。 物体 所选物体的数量和总数。 系统内存 Blender内存消耗估计值。在单实例单机器的情况下，这个估计值提供了⼀ 个针对机器硬件限制的测量。 Blender 版本 当前运⾏的Blender版本。 区域边界由圆⾓（黄⾊⾼ 光）表⽰。 区域

Edge 1.5B 模型通过与 高通 GenAI 扩展的联合优化，在搭载骁龙 8 Gen 4 处理器的手机上实现了每秒 65 个 tokens 的推理速度，接近人类语音的平均输出速率。尽管存在电池续航和内存占用过大等挑战， 端上模型代表了 AI 技术隐私保护和成本优化的未来方向。中国在这一领域的探索，为行业提供 了宝贵经验。 推理扩展法则的潜力释放 通过推理扩展法则，模型性能可通过延长“思考时间”而进一步优化。这一技术模拟了人类 者进一步细分为事件记忆、语义记忆和程序记忆，并基于此抽象出一套记忆管理 SDK。Zep 通 过时态知识图谱管理和更新用户信息，跟踪事实变化并提供最新数据线索。MemGPT 借鉴了计 64 / 111 算机操作系统内存管理机制，模拟虚拟内存工作原理，构建了一套记忆管理系统。这些项目使 AI 应用能够记住对话历史，提供更个性化、上下文感知的交互体验，极大地增强了用户的满意 度。 此外，代理应用的另一个探索方向是多个代理之间的协同工作。开源社区中出现了许多解决 科院计算所陈云霁研究员和 Temam 教授启动了一个学术合作项目——DianNao 家族加速器 设计[13][14]。DianNao 在 ISCA-2012 加速器的基础上增加了局部存储，解决了严重影响加速 器性能的内存带宽限制，发表于 ASPLOS-2014，获得了该会议的最佳论文奖，得到各界的广 泛关注。从此，DianNao 家族系列加速器不断推出，DaDianNao 发表于 MICRO-2014 并 获得最佳论文奖；ShiDianNao

和视频编辑。它⾮常适合那些受益于其统⼀管线和响应式开发过程的个⼈和⼩ 型⼯作室。 Blender是⼀款跨平台的应⽤⼯具，可以在Linux、macOS以及Windows系统下 运⾏。与其他3D建模⼯具相⽐，Blender对内存和驱动的需求更低。其界⾯使 ⽤OpenGL，在所有⽀持的硬件与平台都能提供⼀致的⽤户体验。 谁在使⽤Blender？ Blender有⼀套⾮常丰富的⼯具集，因此⼏乎可以适⽤于任何类型的媒体产品。 Ctrl-F11 在单独的播放器中播放渲染动画。 See also 动画播放器 的更多细节。 动画播放器 偏好设置，选择不同的动画播放器。 锁定界⾯ 在渲染期间锁定界⾯，以便为渲染引擎提供更多内存。 窗⼜菜单 新窗⼜ 复制当前窗⼜创建⼀个新窗⼜。 新建主窗⼜ 创建⼀个包含⾃⾝⼯作区与场景选择的新主窗⼜。 切换全屏 切换当前窗⼜全屏显⽰。 下⼀个⼯作区 切换到下⼀个⼯作区。 ⼏何信息 根据模式和物体类型显⽰有关当前场景的信息。当显⽰两个数字时，第 ⼀个表⽰所选数量，第⼆个表⽰总数量。这可以是顶点、⾯、三⾓形 (三⾓⾯)或⾻骼的数量。 物体 所选物体的数量和总数。 系统内存 估计Blender的RAM消耗。在单实例单机⽅案中，此估计值提供了针对机器 硬件限制的尺⼨。 Blender 版本 当前运⾏的Blender版本。 区域边界由圆⾓(黄⾊⾼光) 表⽰。 区域

和视频编辑。它⾮常适合那些受益于其统⼀管线和响应式开发过程的个⼈和⼩ 型⼯作室。 Blender是⼀款跨平台的应⽤⼯具，可以在Linux、macOS以及Windows系统下 运⾏。与其他3D建模⼯具相⽐，Blender对内存和驱动的需求更低。其界⾯使 ⽤OpenGL，在所有⽀持的硬件与平台都能提供⼀致的⽤户体验。 谁在使⽤Blender？ Blender有⼀套⾮常丰富的⼯具集，因此⼏乎可以适⽤于任何类型的媒体产品。 Ctrl-F11 在单独的播放器中播放渲染动画。 See also 动画播放器 的更多细节。 动画播放器 偏好设置，选择不同的动画播放器。 锁定界⾯ 在渲染期间锁定界⾯，以便为渲染引擎提供更多内存。 窗⼜菜单 新建窗⼜ 复制当前窗⼜创建⼀个新窗⼜。 新建主窗⼜ 创建⼀个包含⾃⾝⼯作区与场景选择的新主窗⼜。 切换全屏 切换当前窗⼜全屏显⽰。 下⼀个⼯作区 切换到下⼀个⼯作区。 and object type. This can be the number of vertices, faces, triangles, or bones. 物体 所选物体的数量和总数。 系统内存 估计Blender的RAM消耗。在单实例单机⽅案中，此估计值提供了针对机器 硬件限制的尺⼨。 Blender 版本 当前运⾏的Blender版本。 区域边界由圆⾓(黄⾊⾼光) 表⽰。 区域

和视频编辑。它⾮常适合那些受益于其统⼀管线和响应式开发过程的个⼈和⼩ 型⼯作室。 Blender是⼀款跨平台的应⽤⼯具，可以在Linux、macOS以及Windows系统下 运⾏。与其他3D建模⼯具相⽐，Blender对内存和驱动的需求更低。其界⾯使 ⽤OpenGL，在所有⽀持的硬件与平台都能提供⼀致的⽤户体验。 谁在使⽤Blender？ Blender有⼀套⾮常丰富的⼯具集，因此⼏乎可以适⽤于任何类型的媒体产品。 Ctrl-F11 在单独的播放器中播放渲染动画。 See also 动画播放器 的更多细节。 动画播放器 偏好设置，选择不同的动画播放器。 锁定界⾯ 在渲染期间锁定界⾯，以便为渲染引擎提供更多内存。 窗⼜菜单 新建窗⼜ 复制当前窗⼜创建⼀个新窗⼜。 新建主窗⼜ 创建⼀个包含⾃⾝⼯作区与场景选择的新主窗⼜。 切换全屏 切换当前窗⼜全屏显⽰。 下⼀个⼯作区 切换到下⼀个⼯作区。 活动的物体 显⽰当前所选活动物体的名称。 ⼏何数据(Geometry) 根据模式和物体类型显⽰有关当前场景的信息。可以是顶点、⾯、三⾓ 形、或⾻骼的数量。 物体 所选物体的数量和总数。 系统内存 估计Blender的RAM消耗。在单实例单机⽅案中，此估计值提供了针对机器 硬件限制的尺⼨。 Blender 版本 当前运⾏的Blender版本。 区域边界由圆⾓(黄⾊⾼光) 表⽰。 区域

responsive development process. Blender是⼀款跨平台的应⽤⼯具，可以在Linux、macOS以及Windows系统下 运⾏。与其他3D建模⼯具相⽐，Blender对内存和驱动的需求更低。其界⾯使 ⽤OpenGL，在所有⽀持的硬件与平台都能提供⼀致的⽤户体验。 谁在使⽤Blender？ Blender有⼀套⾮常丰富的⼯具集，因此⼏乎可以适⽤于任何类型的媒体产品。 Preferences for selecting a different animation player than the default one. 锁定界⾯ 在渲染期间锁定界⾯，以便为渲染引擎提供更多内存。 窗⼜菜单 新建窗⼜ 复制当前窗⼜创建⼀个新窗⼜。 新建主窗⼜ 创建⼀个包含⾃⾝⼯作区与场景选择的新主窗⼜。 切换全屏 切换当前窗⼜全屏显⽰。 下⼀个⼯作区 切换到下⼀个⼯作区。 活动的物体 显⽰当前所选活动物体的名称。 ⼏何数据(Geometry) 根据模式和物体类型显⽰有关当前场景的信息。可以是顶点、⾯、三⾓ 形、或⾻骼的数量。 物体 所选物体的数量和总数。 系统内存 估计Blender的RAM消耗。在单实例单机⽅案中，此估计值提供了针对机器 硬件限制的尺⼨。 Blender 版本 The version of Blender that is currently