[Image](/uploads/documents/a/4/2/f/a42f7fb655acc3f12481e9fe38a68e6f/p1_2.jpg)
## 开源AIOps数据中台搭建与 Python的作用
丁来
强
## 关于我
• 工作10+年,熟悉大数据分析、ITOps、SecOps等领域
·阿里云日志服务上海负责人,之前在Splunk上海
• 自从2015年,在4届PyCon上,累计分享7+不同议题 rowspan="2">分析
流式 | 无 | 不支持 | 支持 | | 统计关联 | 一般(DSL等) | 查询统计强,关联弱(商业版可部分转SQL) | 一般(类SQL查询统计等) |
| 数据治理 | 数据加工 | 无 | 481e9fe38a68e6f/p33_26.jpg)
## Elasticsearch核心能力
· 简单,易扩展,功能集丰富,生态活跃
• NoSQL, schema灵活
- 全文索引查询强,过滤快、聚集功能强大
- 不支持外部关联,有SQL适配器
• 缺点:
· 企业特性需要商业License
• 内存管理挑战较大,复杂统计易失控
• 超过百TB规模后运维成本高
• 存储压缩效率偏低 0 码力 |
48 页 |
17.54 MB
| 2 年前 3
0 码力 |
106 页 |
5.66 MB
| 1 年前 3
全球行业用户提供稳定高效、安全可靠、开放兼容的新型数据基础设施,解放企业生产力,加速企业数字化转型升级。
由 PingCAP 创立的分布式关系型数据库 TiDB,为企业关键业务打造,具备「分布式强一致性事务、在线弹性水平扩展、故障自恢复的高可用、跨数据中心多活」等企业级核心特性,帮助企业最大化发挥数据价值,充分释放企业增长空间。
目前,PingCAP 已经向包括中国、美国、欧洲、日本、东南亚等国家和地区,超过 2017 中国年度创新成长企业 100 强
2017 年度中国企业服务产业最佳投资案例 TOP10
2018 中国大数据准独角兽榜
2018 企业服务产业独角兽榜·数据服务
2019 中国最具投资价值企业风云榜 50 强
2019 中国数据库技术年度评选年度创新企业
2019 全球企服科技创新 50 强
2019 中国创新成长企业 100 强
2019 年度中国技术品牌影响企业
2019 2019 中国数据库技术年度创新企业
2020 企业服务创新榜单 TOP 50
2020 中国企业服务竞争力榜单 70 强
2020 新基建产业独角兽 TOP 100
与北京银行一起获得2020年度亚洲银行家“中国最佳核心银行技术实施”大奖
2020 中国企业服务领域高成长企业 TOP100
### 1.6 代表用户
3个场景。
扩展性,以开源为内核,商业化做基础,充分扩展,方便用户扩展。
- 模块化,将通用部分抽象下沉,提升代码复用和健壮性。
- 长期主义,不是要一个能支撑未来
0 码力 |
326 页 |
12.83 MB
| 1 年前 3
接入微服务架构之后,所有服务都注册在注册中心,如果注册中心高可用存在问题,将会影响到服务提供者对外暴露自己的服务
- 数据一致性,注册中心承担服务注册以及服务订阅,一般都会作为集群部署,很多时候还会部署在多IDC机房,因此数据一致性又成为我们的一个考量,如何保障数据一致性,涉及到CAP理论
- 多数据中心部署,很多业务服务均会部署在多IDC机房,因此是否支持多数据中心也是一个很重要的考虑
||Eureka|ZooKeeper|Consul|etcd|
|---|---|---|---|---|
|AP(高可用/分区容错)|支持|不支持|不支持|不支持|
|CP(一致性/分区容错)|不支持|支持|支持|支持|
|多数据中心|\-|支持|支持|支持|
|一致性算法|\-|paxos|raft|raft|
## 如何选择合适的配置中心
- 配置生效及时性,配置信息存储在配置中心,当后续针对配置信息进行修改后, 存队列,然后程序开启一个线程会消费这个消息做消息分发
- 每个消息都会有一批线程并发消费各自队列的数据,以做到消息处理的隔离
- 消息存储是先存入本地磁盘,然后异步上传到HDFS文件,这也避免了强依赖HDFS
## 如何选择合适的监控系统
- 数据采集,不同的监控系统,采用数据采集组件的组件不同
- 数据传输,数据传输是采取推的方式还是采取拉的方式,对应用的侵入是否大
- 数
0 码力 |
120 页 |
82.16 MB
| 2 年前 3