运维上海2017-Kubernetes与AI相结合架构、落地解析-赵慧智
深度学习是指通过人工神经网络,通过对数据进行分析学习, 最终得出判断。 • 机器学习最难的地方在于特征的提取,而深度学习认为特征 提取是可以通过人工神经网络学习而得出结论的。深度学习 在非结构化数据方面有很大的优势。 卷积神经网络 - CNN 通过卷基层和池化层的网络结构进行不断的对图像的特征提取 数组运算并行化 – CUDA by Example 将数组 a 和数组 b 相加并将计算结果放入数组0 码力 | 77 页 | 14.48 MB | 1 年前3第29 期| 2023 年9 月- 技术雷达
OpenAI 的 ChatGPT,Google Bard,Meta 的 LLaMA 以及亚马逊的 Bedrock 等)在我们的讨论中占据重要地位。更广泛来说,大语言模型可以应用于从 内容生成(文本、图片和视频)、代码生成到总结概述和翻译等各种问题。通过自然语言的抽象层,这些大模型 成为了强大的工具库,被诸多信息工作者广泛使用。我们讨论了大语言模型的各个方面,包括自托管式大语言 模型,相较 这样的外部工具。我们仍然处于定义这一学科 的早期阶段,但到目前为止,ReAct 及其后继方法已指引出大语言模型最令人兴奋的一些应用领域。 10. 检索增强生成 试验 检索增强生成(RAG) 是一种结合预训练参数和非参数记忆的文本生成技术。它使你能够通过你的领域内特有 的包含上下文的知识,来强化预训练模型中的现有知识。使用 RAG,你会先从非参数记忆中去检索相关文档集 (一般是通过在向量数据库中的相似性搜索),再使用 LLM 是一个开源的向量存储和嵌入数据库,可用于增强由大语言模型(LLMs)驱动的应用程序。通过促进 LLMs 中的领域知识的存储和利用,Chroma 弥补了 LLMs 通常缺乏内部存储器的不足。特别是在文本到文本应 用中,Chroma 可以自动生成单词嵌入并分析它们与查询嵌入之间的相似性,从而大大简化操作。它还提供了 存储自定义嵌入的选项,促进了自动化和定制化的融合。鉴于 Chroma 能够增强由 LLM0 码力 | 43 页 | 2.76 MB | 1 年前3云计算白皮书
据复杂化也加速云计算向能够一体化调度、处理计算、网络、存储 资源的操作系统方向演进。 向上来看,数字应用呈现出分布式、多模态、超大量级的特点。 以 ChatGPT 为例,ChatGPT 的模型参数已达千亿,且模型训练数据 涉及文本、图片、音视频等多个模态,基于分布式训练框架实现了 超大规模量级的并行计算,这对部署模型的云计算平台提出新的需 求。云计算的焦点不仅仅在提升单点应用的研运效能,更要发挥出 面向大规模分布式应用协调、分发、部署的中枢管控能力。模型构0 码力 | 47 页 | 1.22 MB | 1 年前3Kubernetes开源书 - 周立
⾼级的负载均衡概念(例如:持续会话、动态权重)尚未通过Ingress公开。您仍然可以通过 service loadbalancer 获得 这些功能。随着时间的推移,我们计划将跨平台适⽤的负载均衡模式提取到Ingress资源中。 另外,尽管健康检查不直接通过Ingress暴露,但是在Kubernetes中存在parallel(并⾏)的概念,例如 readiness probes ,可让您实现相同0 码力 | 135 页 | 21.02 MB | 1 年前3k8s操作手册 2.3
myssh-key-secret Opaque 2 3m43s # kubectl get secret database-auth -oyaml #secret的文本信息均以base64编码 存储 apiVersion: v1 data: password: cGFzc3dkMTIz #base64编码 username: cm9vdA==0 码力 | 126 页 | 4.33 MB | 1 年前3
共 5 条
- 1