这两个核⼼问题导致在第三层有巨⼤的空间，包括
long-context、不同模态的⽣成、模型多步规划的 能⼒、指令遵循的能⼒、各种
agent
的功能等。
这些上层的东西都会有巨⼤的差异化，因为中间存在两个重要的技术变量。我认为这是我们的机会。 除了技术层⾯，价值观上我们有⼀点和
OpenAI
不同：我们希望在下⼀个时代，能成为⼀家结合
OpenAI
技术理想主义和字节所展现的商业化哲学观的公司。东⽅的效⽤主义我认为有⼀定的可取之 25次⽅次就是GPT-4的规模。如果只是10的24次⽅，那今天有可能什么事情都不会发⽣。但当到了10 的25次⽅之后，GPT-4突然发⽣了涌现很多智能。以前是完全做不了的任务，那现在可以做了。
还有另外⼀个很重要的变量，就是Transformer架构的发明。如果回到六年前，这个世界上可能还没有 Transformer架构，以前的学者研究过传统RNN⽹络结构的极限，有个论⽂标题就叫《ExpLoring
the
杨植麟：ToB
我们也不是说完全不做，但主要聚焦和发⼒的还是
C
端。
对我们来说，这是⼀个新的技术变⾰产⽣的新机会，因为在过去很⻓⼀段时间，AI
的技术在
toC
领域 还没有任何成功案例。 但我觉得随着新的技术变量的出现，很多
AI
技术可以实现更好的效果，这些更好的效果就可以帮助我 们做到之前没有办法做的事情。这些事情可以⽤新的应⽤、新的⼊⼝的⽅式呈现出来，收⼊呈现指数 的增⻓，⽤⼾量也在快速增⻓。

深度学习算法可以发现代码中的错误， 帮助开发者更准确、更高效地对程序进行调试。这种工具能够识别一些常见的错误，比如不正确的符 号 “<=” 和“<”，不正确的布尔运算符 “and” 和“or”，变量滥用等等。为了测试该系统，微软使用 了 Python 代码。与其它方法相比，经过训练后的模型发现 Bug 的概率最多可以提高 30%。【来源】 一个值得思考的问题是 ：当开源不断的推动各种各样

上下文理解的局限性。大模型的代码生成通常基于短期上下文（如用户输入的一段描述或代 码片段），缺乏对整体系统架构和长期上下文的理解。这种局限性使得其在复杂项目中难以生成 高质量的代码。例如，在大型软件项目中，模型可能忽略全局变量的依赖关系、模块间的交互逻 90 / 111 辑或编码规范，导致生成的代码无法融入现有的系统环境。此外，模型难以理解业务需求背后的 深层逻辑，可能生成表面上正确但实际不可用的代码，从而给开发者带来额外的修改和调试工作。

度学习算法可以发现代码中的错误，帮助开发者更准确、更高效地对程序进行调试。这种 工具能够识别一些常见的错误，比如不正确的符号 “<=” 和“<”，不正确的布尔运算 符 “and” 和“or”，变量滥用等等。为了测试该系统，微软使用了 Python 代码。与 其它方法相比，经过训练后的模型发现 Bug 的概率最多可以提高 30%。【来源】 In December 2021, Microsoft