基于Consul的多Beats接入管控与多ES搜索编排## 基于Consul的多Beats接入管控与多ES搜索编排 梁成 腾讯云, barryliang@tencent.com ## 拥抱开源、释放云原生的力量 背景与挑战 多Beats/Logstash接入管控 多ES搜索编排系统 日志AIOps探索 ## 背景与挑战 如何降低日志接入门槛 如何保证日志实时上报 如何保障日志采集不影响业务 如何做配置标准化 如何帮助业务快速排障 如何帮助业务快速排障 如何提供方便便捷的性能分析调优能力 100+ 产品数量 ## 1000 人员规模 10000 主机规模 ## 多Beats/Logstash接入 管控 提供多产品接入管理,多beats标准化、界面化、自动化的日志接入方案 ## 案例:1000+业务10000+台 主机如何快速实现日志接入? 业务规模 1000+业务、10000+业务主机、每天百T日志增量 日志需求 收集业务日志文件用于故障分析与告警监控 从Consul中获取当前agent的配置组列表,并启动多个采集进程 ## 配置变更感知 watch到Consul对应的agent id路径,实时感知配置变化,并对启动的进程列表做重启清理等工作 管理多Beats/logstash Beats等以agent子进程启动其管理这些进程的 cpu/内存等资源  ## 祝辰 • 携程框架架构部门 • 资深研发工程师 - 专注于 Redis 高可用系统的研发工作 • 对分布式存储系统有所涉猎 ## 目录 CONTENTS 仅仅需要毫秒级别的时间, 一条消息可以被全世界共享起来 互联网的规模也从单独 一个数据中心的部署方 式转变为多数据中心, 甚 至是跨区域的部署模式  ## 多区域部署 Serverless  ## Data Replication Center DRC 的概念是在近年来, 云计算兴起, 多站点部署的场景下, 延伸出来对于数据共享的一个需求. 多站点部署的架构, 对于单元化部署的应用来讲, 跨数据中心的数据访问一直是一个最大的痛点. ## 目前很多用户 - 抑或是采取了同一份写入到两个站点的数据库 - 抑或是跨站点写入数据库同时同步回来(例如0 码力 | 45 页 | 1.74 MB | 2 年前3
TypeScript 多场景设计方案及应用实践## TypeScript 多场景开发实践 Best practices of TypeScript and Dev in Alibaba ## 陈仲寅(花名:张挺) 就职于 阿里巴巴淘宝技术部 MidwayJS 团队  zhangting@taobao Controller { async create() { // TODO } } module.exports = PostController; class 用法,无法多继承 ## 体验不同 Egg 解决的是 BFF 场景,而淘宝有不少全栈场景 杂糅的 app/ctx 合并机制 ## 第一代设计 ## 解决复杂问题 ## 尝试引入 IoC 解决复杂业务的问题 ## Function 2、多实现上的不一致 - 无法方便的继承 3、代码洁癖上的问题 - 编译目录分离 ## Tes ## CLASS ## 体验 ## 统一使用 class/interface 为了良好的使用 IoC,我们将整个 Midway 修改为了 OO 的模型,所有的东西都通过 class 来编码,这样也可以更好的借鉴 java 的思想,另一方面可以通过接口来解决多实现的架构。 ## ☐0 码力 | 95 页 | 8.28 MB | 2 年前3
多租户Kubernetes VM Solutions for Multi-Tenant Applications0 码力 | 33 页 | 3.34 MB | 1 年前3
分布式异地多活架构实践之路adb784517f8/p1_1.jpg) QCon 全球软件开发大会 INTERNATIONAL SOFTWARE DEVELOPMENT CONFERENCE # 讯飞输入法异地多活架构实践之路 凌 军 主办方 Geekbang. InfoQ 极客邦科技 ## 自我介绍 · 凌军 • 2010年加入科大讯飞 • 讯飞输入法、灵犀语音助手等产品服务端架构负责人 科大讯飞消费者BG基础平台架构负责人 4/4/f244e3e91d6c76afe0bdeadb784517f8/p3_1.jpg) 来自:中国科学院《互联网周刊》 ## 大纲 • 产品发展中遇到的问题 • 异地多活存在哪些挑战 • 讯飞输入法异地多活解决方案 • 实际应用效果 • 未来规划 ## 单机房遇到的问题 可用性低 响应时间慢 系统扩容难 ## 可用性低  ## 大纲 • 产品发展中遇到的问题 • 异地多活存在哪些技术挑战 • 讯飞输入法解决方案 • 实际应用效果 • 后续规划 ## 技术挑战 ## 机房天然延迟 几十毫秒的延迟; 跨机房性能较慢 ## 跨机房专线问题 专线费用高; 专线不稳定0 码力 | 36 页 | 1.66 MB | 2 年前3
携程 Redis 多数据中心 双向同步实践 祝辰## 携程 Redis 多数据中心 双向同步实践 祝辰 ## 祝辰 目前任职携程框架架构部门资深研发工程师 负责框架Redis团队的开发工作 目录 1 业务背景 2 双向同步 3 CRDT 4 高可用 ## 开篇 & 背景 ## Redis 在携程的规模 25,000,000 QPS ## 跨公网同步 Console SHANGHAI Data CANADA0 码力 | 33 页 | 2.15 MB | 2 年前3
QCon上海2016-携程redis多数据中心实践-孟文超携程REDIS多数据中心实践 ’ alt=‘OCR图片’/> 关注InfoQ官方信息及时获取QCon软件开发者大会演讲视频信息 [北京站] 2016年12月2日-3日 咨询热线:010-89880682 QCon 全球软件开发大会 [北京站] 2017年4月16日-18日 咨询热线:010-64738142 Software Load Balance 清华大学 自强不息 厚德尚学 携程使用情况 2000多组实例 每秒访问量200万(写入10万) ’ alt=‘OCR图片’/> REDIS多数据中心 多数据中心 业务压力 高可用 多数据中心阶段 备份 双活 多活 Redis多数据中心? Cache 内存数据库 ’ alt=‘OCR图片’/> 需要解决的问题 数据复制 一致性 实时性 高可用 复制高可用 LOG SERVER ’ alt=‘OCR图片’/> 数据复制-REPLICATION LOG SERVER 磁盘缓存log数据 多机房Log server—log server数据传输 数据中心内redis通过log server获取数据 数据中心之间通过keeper复制 压缩 Replication log server 命名:keeper ’ alt=‘OCR图片’/>0 码力 | 39 页 | 1.77 MB | 1 月前3
开源多集群应用治理项目Clusternet 在多点生活的云原生实践Days ## 开源多集群应用治理项目 Clusternet 在多点生活的云原生实践 陈鹏 ## 个人简介 ## 手 Kubernetes Community Days 陈鹏 多点生活 平台架构-基础架构工程师 • 开源项目 MOSN 核心 Committer • 主要负责容器服务整体架构的设计与开发 主导 ServiceMesh 落地相关工作 ## 目录 多集群管理现状 Operator 迭代 反思&重构 ## 多集群管理现状 ## 整体架构 GZ01A GZ01B GZ01C RZ01 RZ01A  RZ02 RZ02A RZ01B RZ02B • 多单元 • 多集群 • 多分组 • 多种公有云(腾讯云、微软云等) 8/p7_3.jpg) api 应用在多集群运行状态收集 应用维护,日志查看,故障排查  controller 应用发布 Operator ## API • 对使用方屏蔽多单元、多集群的存在 • 提供简单的、无需运维介入的日常维护功能0 码力 | 22 页 | 17.18 MB | 1 年前3
多雲一體就是現在:
GOOGLE CLOUD 的
KUBERNETES
混合雲戰略多雲一體就是現在: GOOGLE CLOUD 的 KUBERNETES 混合雲戰略 安玟宇 Wayne An Customer Engineer, Google Cloud WayneAn@google.com ## POSSIBLE BEGINS WITH YOU: ## 多雲一體就是現在: Google Cloud 的 Kubernetes 混合雲戰略 安玟宇 Wayne An 台灣區已經備有三個容錯區域 高效能代管式服務 涵蓋Web/App/DB皆有多 樣化代管服務可以組合出 最適架構 自動化部署 與開放平台以及開發環境整合,加速應用上線  ## 使用多層次的架構重塑雲端佈署 0 码力 | 25 页 | 3.60 MB | 1 年前3
共 1000 条
- 1
- 2
- 3
- 4
- 5
- 6
- 100













