石油巨头与Kubernetes, Microservice & DevOps 共舞1114最终版建设思路与整体方案 3 产品与技术详情 ## 业务信息系统现状 ## 应用 功能单一 管理型居多 • 适应性不足… ## 技术平台 规范不一致 • 组件不复用 • 集成共享难… ## 数据 • 标准不统一 • 重复录入 数据不一致… 应用 应用  测试 平台容器化快速部署 保证测试环境和开发环境一致 使用自动化测试工具快速校验交付质量,加速测试效率 按照编写好的测试case进行手工测试 版本发布面板,跟踪版本发布进度 ## 上线运维场景 接受发版工单 同步镜像0 码力 | 33 页 | 7.49 MB | 1 年前3
高可用与一致性:构建强一致性分布式数据库 TiDB-沈泰宁## 构建强一致性分布式数据库 TiDB 沈泰宁 R & D Engineer @ PingCAP ## 极客时间 | 企业服务 ## 想做团队的领跑者 需要迈过这些“槛” 成长型企业,易忽视人才体系化培养企业转型加快,团队能力又跟不上 团队成员技能水平不一, 难以一“敌”百人需求 寻求外部培训,奈何价更高且集中式学习 学习效果难以统计,产生不良循环 VS VS VS0 码力 | 45 页 | 4.63 MB | 2 年前3
微服务场景下的数据一致性解决方案 - 殷湘和平统一 # 微服务场景下的数据一致性解决方案 殷湘 华为PaaS微服务架构师 开源能力中心  ## 大纲 • 离 数据一致性的起因 • 合 数据一致性的解决方案 • 断 方案选择建议 ## 离 数据一致性的起因 ![Image] jpg) ## 单体应用 • 单体应用由于所有模块(A/B/C)使用同一个数据库 • 数据一致性通过数据库事务保证  ## 微服务场景 ## 数据一致性无法完全通过数据库保证 离 独立进程  独立部署 独立技术 独立团队 MongoDB Cassandra ## 合 数据一致性的解决方案 ## Saga • 1987年Hector & Kenneth 发表论文 Sagas • Saga = Long Live Transaction (LLT) • LLT0 码力 | 31 页 | 4.28 MB | 2 年前3
PostgreSQL 9.1 Documentation0 码力 | 2836 页 | 6.62 MB | 2 年前3
Redis 多数据中心双向同步 祝辰Redis 方便的多种数据结构类型对于储存这种数据比较方便. 同时由于供应商是在全球分布的特性,就更需要一个能够多点写入的 Redis 集群, 支持海外站点和国内站点同时进行读写;并解决因此可能出现的数据一致性问题。  ## Data Replication 目前携程的应用也在进行单元化的部署模式, 在实现单元化的部署过程中, 跨数据中心的数据访问一直是一个业务的痛点. 是否我们也能够有自己的一套 DRC? 来完成每个站点的单独写入读取, 而不用关心底层存储的一致性和同步问题. 对此需求进行分析后, 我们决定开发一个Redis 的 DRC 架构, 来支撑携程集群的应用单元化部署, 而不仅仅是限制于Redis 数据的双向同步. ## 分布式理论 Availability Partition Strong Eventually Consistency 首先,P(网络分区)是首要考虑因素 其次, 跨区域部署就是 为了提高可用性 最后,我们使用"最终一致性"来解决数据冲突 ## 双向同步的 共同问题 ## 双向/多向同步有哪些共同的问题  框架优势 ● 业务代码与框架代码分离,聚焦业务开发 ● 缓存接入成本低,无需关注内部的管理,开箱即用 ● 提供灵活的查询、过滤、排序、分页等接口,为查询业务赋能 ● 开发者无需关注缓存与数据库的数据一致性,框架层面有保障 ● 框架提供脚手架,框架代码自动生成,减少心智负担 ● 海量数据可扩展,接入冷热数据交换策略,只需简单配置 ● 海量数据存储,不会触发GC扫描,服务性能无压力 ● 单元测试高覆盖,稳定有保障0 码力 | 48 页 | 6.06 MB | 2 年前3
Nacos架构&原理
Nacos 一致性协议 28 Nacos 自研 Distro 协议 38 Nacos 通信通道 42 Nacos 寻址机制 56 Nacos 服务发现模块 63 Nacos 注册中心的设计原理 63 Nacos 注册中心服务数据模型 80 Nacos 健康检查机制 89 Nacos 配置管理模块 97 配置一致性模型 97 的架构,主要目的是为了解决集中化和互联网化所带来的架构扩展性和面对海量用户请求的技术挑战。这里面其中有一个关键点是软负载。因为整个分布式架构需要有一个软负载来协作各个节点之间的服务在线离线状态、数据一致性、以及动态配置数据的推送。这里面最简单的需求就是将一个配置准时的推送到不同的节点。即便如此简单需求,随着业务规模变大也会变得非常复杂。如何能将数据准确的在3秒钟之内推送到每一个计算节点,这是当时提 要分别开源我们内部产品,这样又会分散我们品牌和运营资源。另外大部分客户没有阿里这么大的体量,模块拆分过细,部署和运维成本都会成倍上涨,而且阿里巴巴也是从最早一个产品逐步演化成 3 个产品的,因此我们最终决定将内部三个产品合并统一开源。定位为:一个更易于构建云原生应用的动态服务发现、配置管理和服务管理平台。由于我们在阿里内部发展了 10 年,在易用、规模、实时、稳定沉淀了核心竞争力,围绕阿里 Dubbo0 码力 | 326 页 | 12.83 MB | 1 年前3
Curve文件系统元数据持久化方案设计ht[0] 哈希表在 rehashidx 索引上的所有键值对 rehash 到 ht[1],当 rehash 工作完成之后,程序将 rehashidx 属性的值增一 (4)随着字典操作的不断执行,最终在某个时间点上,ht[0]的所有键值对都会被rehash至ht[1],这时程序将rehashidx属性的值设为-1,表示rehash操作已完成 哈希表渐进式 rehash 执行期间的哈希表操作: ht $ ^{[1]} $ 里面,而 ht $ ^{[0]} $ 则不再进行任何添加操作:这一措施保证了 ht $ ^{[0]} $ 包含的键值对数量会只减不增,并随着 rehash 操作的执行而最终变成空表 ## 参考 • leveldb/boltdb/redis 持久化调研0 码力 | 12 页 | 384.47 KB | 1 年前3
Rust原子操作高性能实践 Rust Atomic Deep Dive - 王璞0 码力 | 19 页 | 1.88 MB | 2 年前3
新一代分布式高性能图数据库的构建 - 沈游人,实现了大规模复杂异质图数据的表示学习模型、语义推荐和风险管理关键技术,构建了完整的兼具理论指导与应用检验的大规模图数据智能分析系统与平台,满足了大数据时代从复杂异质图数据中进行知识发现的重要需求。最终获得国内外授权发明专利 43 项,CCF-A 类论文 51 篇,获得 2 次国际竞赛冠军,参与了 2 项图计算相关标准制定。 图技术简介 AtlasGraph 架构及实现 Takeway ## Analytics ➢ 人与人、企业与企业、企业与人之间的 复杂、潜在关系推导和挖掘 Find optimal paths or evaluate route availability 路径识别 |一致行动人|同事关系| |---|---| |实际控制人|可能认识的人| |上下游|同爱好的人| |亲属关系|...| Determine connectivity strengths and weaknesses 现有开源产品无法满足要求(受限于基础架构设计,优化性能有限) |AtlasDB Web Interface|×|\+||| |---|---|---|---|---| ## 新一代分布式图数据库需具备的特性 - 高可用 - 一致性(事务) ## 信 ## 特性 ## 达 - 高性能 • 低资源消耗 ## 雅 - 易用 • 功能丰富 ## AtlasGraph 关键特性 












