夏歌-使用Rust构建LLM应用Rust function,平台负责将 Rust 编译成 Wasm,并运行在 WasmEdge 安全容器中 - 平台封装了一些常用 LLM 和 SaaS 的 API,并发布成了 crate,比如 ChatGPT、telegram、GitHub、Discord、向量数据库比如 qdront。 - 整个 serverless 平台是为 Rust 和 WebAssembly 设计的 ,GPT仅采用上文预测单词(BERT采用了基于上下文双向的预测手段)。 注:ChatGPT的表现更贴近人类意图,部分因为一开始GPT是基于上文的预测,这更贴近人类的话语模式,因为人类言语无法基于将来的话来做分析。 图:GPT-1模型相比于Transformer模型有了显著简化 models to follow instructions with human feedback》论文 ## ChatGPT核心技术优势 InstructGPT与ChatGPT属于相同代际的模型,ChatGPT只是在InstructGPT的基础上增加了Chat属性,且开放了公众测试 ChatGPT提升了理解人类思维的准确性的原因在于利用了基于人类反馈数据的系统进行模型训练 (注:根据官网介绍,Gh (注:根据官网介绍,GhatGPT也是基于InstructGPT构建,因而可以从InstructGPT来理解ChatGPT利用人类意图来增强模型效果) 步骤1:搜集说明数据,训练监督策略 图:基于人类反馈强化的核心训练流程如下所示: 步骤2:搜集比较数据,训练一个奖励模型 ## 步骤3:搜集说明数据,使用增强学习优化模型 搜集说明数据(基于prompt 训练方式的数据集),训练监督策略 这个数据用来联合监督学习,对GPT-3进行微调0 码力 | 44 页 | 2.36 MB | 2 年前3
2023 中国开源开发者报告这自然要从 OpenAI 说起,前一年年底,ChatGPT 的横空出世,标志着对话式 LLM 开始进入公众视野,为人们提供了全新的人机交互方式。而 2023 年 3 月,同系 GPT-4.0 的发布则将 LLM 的规模和能力提升到一个新的台阶,为 LLM 的广泛应用奠定了基础。再之后的 11 月份,OpenAI 再发力,GPTs 的到来,“用户自定义 ChatGPT” 的能力,更是让世人领略了 OpenAI 翻了又翻。 ## 三、 Claude 2、PaLM 2、Llama 等模型与产品也展现了 LLM 在语言理解和多模态处理能力方面的探索,甚至 Claude 2 还一度被誉为实力可以硬刚 ChatGPT。而 Meta 开源的 Llama 2 更成为了 LLM 领域开源势力的典型代表,它的出现,犹如一颗投入平静湖面的石子,激荡起层层水波,“Llama 2 一开源,全球范围内进入了百模混战阶段”,这个说法一点也不为过。 本的基础上增加 AI 能力,使其智能化,但它的智能只充当了“辅助”角色;在 AI 原生的语境下,LLM 从一开始就是应用的中枢,应用本身的架构、功能、交互层是围绕 LLM 中枢来构建的。也许 ChatGPT 是最经典的“AI 原生”应用。此概念目前还处在萌芽期,明确的概念、应用场景、架构、技术栈细节等尚未完成自洽。换一种视角来看,这个概念的提出其实都没技术什么事,有人称之为“造商业概念”,这里按下不表。0 码力 | 87 页 | 31.99 MB | 2 年前3
Moonshot AI 介绍更重要的是理解两者之间的关系。 AGI 和产品对我们来说并不是手段和目的的关系,两个都是目的。同时,在追求 AGI 的过程中,我认为所谓的数据飞轮是很重要的,尽管它是一个老套的概念。 像 ChatGPT 这样的产品,还没有完全建立起基于用户数据的持续进化。我觉得这很大程度上是 base model 还在进化,进化了一代,之前的用户数据就没什么用了。这跟发展阶段有关系——现在“吃”的是 base 释性的?因为刚刚你也提到了模型是一个黑盒,并且其实人类到现在还没有弄清楚自己的大脑是怎么工作的。 杨植麟:可解释性核心是个信任的问题。建立一个信任的心智是很重要的,对应的应用场景甚至可能和 ChatGPT 的也会不同,比如 long-context 和搜索的结合。 当模型完全不 hallucinate 或者概率非常低,就不需要解释了,因为它说的东西都是对的。而且解释有可能也只是 alignment 第二点就在于 AI 的终极价值是个性化。 海外独角兽:OpenAI 其实也有一定的 long-context 了。 杨植麟:它还没有把用户的交互过程真正视为个性化的场景。比如,如果我们去 ChatGPT prompt 某个东西,不管是今天还是明天,只要模型版本相同,可能效果基本上差不多,这就是我说的缺乏个性化。 最终所有东西都是指令遵循。只不过你的指令会越来越复杂。今天你的指令一开始可能是 100 码力 | 74 页 | 1.64 MB | 2 年前3
第29 期| 2023 年9 月- 技术雷达仍然难以捉摸。 ## 众多大语言模型 大语言模型(LLMs)为现今人工智能的许多重要突破奠定了基础。目前的应用多使用类似聊天的界面进行交互,例如 ChatGPT 或 Google Bard。生态中的主要竞争者(例如 OpenAI 的 ChatGPT,Google Bard,Meta 的 LLaMA 以及亚马逊的 Bedrock 等)在我们的讨论中占据重要地位。更广泛来说,大语言模型可以应用于从内 62. MobSF 63. Mocks Server 64. Prisma 运行时防护 65. Terratest 66. Thanos 67. Yalc ## 评估 68. ChatGPT 69. Codeium 70. GitHub 合并队列 71. Google Bard 72. Google Cloud 工作站 73. Gradio 74. KWOK 75. Llama 已经试用过它并取得了很好的效果。您可以将 30 多种用户反馈来源连接到这个平台,它可以分析数据并识别功能请求、常见投诉、用户喜欢的产品特点,甚至列出您的竞争对手。为了获取更多细节,您可以像向 ChatGPT 或 Google Bard 提问一样,这里的好处是它针对您的数据进行了优化。一旦您确定了要从用户反馈中解决的问题,Kraftful 会基于所有基础数据(包括验收标准)为您生成用户故事,即使对经0 码力 | 43 页 | 2.76 MB | 2 年前3
开源中国 2023 大模型(LLM)技术报告CodeArts Snap TabbyML Comate 大模型聚合平台 Hugging Face ModelScope SOTA!模型 Gitee AI ## 知名大模型应用 ChatGPT Bing DragGAN Claude Cursor Bard Midjourney Mochi Diffusion v0.dev MakerSuite bxtai DECS codium [Image](/uploads/documents/f/4/8/5/f485f799dcd761b82375003f4bef3b91/p6_3.jpg) ## LLM 基础设施:向量数据库/数据库向量支持 自 2022 年 ChatGPT 问世以来,大模型星火初始,向量数据库不但获得了技术领域的关注,也逐渐吸引了市场和资本的注意力。近两年来,向量数据库公司迎来了一波融资潮: Pinecone:已融资 1.38 亿美元 ➢ Zilliz:已融资  2022 年底大模型应用 ChatGPT 发布后,点燃了世界范围内对于大模型技术及其应用的关注和热情。2023 年,国内外各大厂商均投身于大模型的浪潮当中,涌现了诸多知名的大模型及应用,它们结合了文本、图片、视频、音频多种介质,在文本生成、图片生成、AI0 码力 | 32 页 | 13.09 MB | 2 年前3
普通人学AI指南. 6 1.4.1 上下文窗口 ..... 6 1.4.2 单位 B 和 T ..... 6 2 AI 工具梳理 ..... 6 2.1 问答 ..... 6 2.1.1 ChatGPT ..... 6 2.1.2 Claude ..... 7 2.1.3 通义千问 ..... 7 2.2 图像 ..... 7 2.2.1 物体擦除 IOPaint ..... 8 Copilot ..... 10 2.4.10 通义灵码 ..... 11 2.5 AI 指令编写工具 ..... 11 2.5.1 FlowGPT ..... 11 2.5.2 ChatGPT 指令大全 ..... 11 2.5.3 SD 提示词手册 ..... 12 2.5.4 PromptHero ..... 12 2.5.5 可视化 AI 提示语 ..... 12 工具,分别包括:问答,图像,视频,AI 编程,AI 提示词和 AI 大模型,一共梳理挑选共计 38 个 AI 工具,其中很多都是开源! ### 2.1 问答 #### 2.1.1 ChatGPT ChatGPT 是一个由 OpenAI 开发的大型语言模型,它基于 GPT(Generative Pre-trained Transformer)架构。这种模型通过分析大量的文本数据来学习语言结构和0 码力 | 42 页 | 8.39 MB | 1 年前3
2024 中国开源开发者报告我们先看大模型赛道的整体状况: 大模型是一项相对较新的技术。尽管 OpenAI 早在 2019 年就发布了第一个重要的模型 GPT-2,但大模型的广受关注实际始于 2022 年 11 月发布的 ChatGPT。8 个月以后 Meta 就与微软合作发布了开源大模型 LLaMA-2。这个赛道的主要玩家在技术和商业化上有差距,但没有到翻盘无望的程度。 大模型赛道不但包括模型的训练,也包括模型服务。训练是 术先进性”更多是用于公关宣传的素材。考虑到数据获取、加工的成本,模型训练的成本,这是一种相当昂贵的宣传方式。 C 端用户指那些把大模型当成智能个人助理来使用的普通个人用户。OpenAI 在 ChatGPT 上一个重要且成功的操作就是把大模型从学术界、工业界直接推向了普通个体,让 C 端用户切实感受到了大模型的可能性与魅力。这一点被国内的大模型厂商广泛学习。在 B 站刷视频,国内知名的那几个大模型厂商的广告,你一个也不会落下。 已从单一的辅助工具,逐渐演变为软件开发人员不可或缺的助手或伙伴。 除了前面已介绍的 Cursor、Composio SWE-Kit、OpenHands CodeAct 等工具之外,国内主要使用 chatGPT、GitHub copilot、通义灵码、CodeGeeX、文心快码、蚂蚁 CodeFuse 等编程工具,国外还出现一些受欢迎的、新的编程工具,如 Codeium IDE Cascade、Solver0 码力 | 111 页 | 11.44 MB | 1 年前3
Manus AI:Agent元年开启## Manus AI: Agent应用的ChatGPT时刻 2025年3月 谢春生 SAC NO. S0570519080006 | SFC NO. BQZ938 岳铂雄 SAC NO. S0570122080138 ## 风险提示 技术落地不及预期;若AI等技术落地效果或商业化推进进度不及预期,可能导致应用类公司客单价提升不及预期; 宏观经济波动;若宏观经济出现波动,可能对各行业 移动和桌面应用:提供移动和桌面应用程序,使用户可以随时随地使用AI助手服务。 AI模型API平台:为开发者提供API平台,使他们能够访问先进的AI模型和专有API。 AI聊天机器人创建:提供工具让用户能够创建自定义的ChatGPT风格的AI聊天机器人。 AI代理产品:最新推出的Manus产品,是一个通用AI代理,能够独立完成复杂任务。 ## 技术迭代:多模型支持 - Manus视频中表示作为多智能体系统,Manus 给生物分子学家的figma。 2022年底,开启Monica项目。Monica是一个具有通识能力的AI助手,通过浏览器插件形式提供功能,可以帮助用户获取、处理和存储信息。Monica是一个由ChatGPT API提供支持的Chrome扩展,旨在成为您轻松聊天和撰写文案的个人AI助手。 |2|出海排名|产品名AI产品榜|分类aicpb.com|5月上榜访问量|5月上榜变化| |---|---|---|---|---|---|0 码力 | 23 页 | 4.87 MB | 1 年前3
Gemma 4 完全指南 - 从入门到本地部署and CLI Ollama不是唯一选择。LM Studio有图形界面,llama.cpp能精确控制每个参数,MLX则让Apple Silicon跑满。 LM Studio:本地版ChatGPT界面 如果你用过ChatGPT的网页版,LM Studio的体感很接近。区别是,它跑在你自己的电脑上,用的是开源模型,不花钱,数据不出本地。 可以理解成一个带图形界面的本地模型运行器。下载模型、加载模型、聊天 处理文档、写代码、分析数据、整理文件。这些任务不需要云端最强的能力,但需要隐私、需要免费、需要随时可用。Gemma426BA4B在这些场景下够用了。 举个例子:你有一批本地PDF需要提取关键信息整理成表格。以前你可能会传到ChatGPT或Claude,现在直接让本地的OpenClaw去做。文件不离开你的电脑,不花API费用,而且Gemma4本身就支持文档理解和OCR。 我的判断 这才是本地模型该有的用法。不是拿它和Claude0 码力 | 42 页 | 4.85 MB | 2 月前3
共 47 条
- 1
- 2
- 3
- 4
- 5













