[Image](/uploads/documents/4/7/3/9/4739a36fae893087536c8b4215db714a/p1_1.jpg)
## OpenEuler
实时内核UniProton及其混合关键性部署的实践
## openEuler全新升级,成为数字基础设施开源操作系统
操作系统碎片化 导致数字基础设施产生大量 “软烟囱”: 生态割裂; 重复开发; 协同繁琐
## colspan="2">嵌入式
内核可编程,场景算力最佳 | | · 磁盘资源隔离,大数据性能提升30% · 应用感知调度,hbase性能提升20% | · 容器/虚机混部,资源利用率15%-30% | · 边云管理协同框架,跨边云单应用秒级发放 | · 提供us级软/硬实时内核 · OpenAMP混合部署模式 · 分布式软总线,欧拉/鸿蒙设备互通 | 异构直连聚合,应用跨算力流转 |
| 基础能力持续创新 | 南向创新 | · 可编程内核 · 实时内核 | openEuler DevKit · 迁移升级工具 | BiSheng Compiler · AI辅助自动调优 | 分布式数据 0 码力 |
15 页 |
1.35 MB
| 2 年前 3 9d/p1_1.jpg)
QCon
全球软件开发大会
INTERNATIONAL SOFTWARE
DEVELOPMENT CONFERENCE
BEIJING 2017
# 海尔实时计算平台技术选型与实践
海尔电器 - 肖云
主办方 Geekbang. InfoQ 极客邦科技
## 促进软件开发领域知识与创新的传播

## 概要
• 实时计算平台背景
• 开源技术选型与实践
• 开源技术改造经验
## 背景 - 海尔大数据总体规划
数据应用
数据可视化+Java
Olap
Report
精准化

跨境电商
RRS
区域运营
服务网
元数据管理
数据质量
据
管
数据安全
## 实时计算平台框架
数据产品1
数据产品2
数据产品N
存储服务
开源数据平台,具有良好的弹性和线性拓展能力,内置并行存储、并行通信、并行计算和并行优化功能,兼容 SQL 标准。拥有独特的高效的 ORCA 优化器,具有强大、高效的 PB 级数据存储、处理和实时分析能力,同时支持 OLTP 型业务的混合负载。

## Sealos是云操作系统发行版本
## Kubernetes是云操作系统内核,整个集群是一个整体
Linux发行版,如redhat
Linux发行版,如redhat
Linux发行版,如redhat
Linux kernel
Linux kernel
Linux /gh-proxy.com \
5 --cloud-domain=
## 抛弃 IaaS PaaS SaaS 拥抱 云内核 架构
|分层架构代表 openstack|内核架构代表 linux|
|---|---|
|我快黄了|我经久不衰|
|我一锅大杂烩|我高内聚高抽象|
|我装起来都费劲|我一键安装|
|我运行起来一堆问题|我小白都能稳定运行| 0 码力 |
29 页 |
7.64 MB
| 1 年前 3 ## 使用 TiDB 进行实时数据分析
## 马晓宇@PingCAP
## 极客邦科技 会议推荐2019

## QCon
## 全球软件开发大会
大会:5月6–8日
培训:5月9–10日
## QCon
北京
广州
## 分析产品负责人@PingCAP
曾就职于网易杭研,担任 BigData Infra Team Lead
- 主要关注大数据,分布式数据库,SQL on Hadoop 等领域
## 实时场景技术选型
## 案例分析
我希望做一个实时分析系统,提供运营人员实时查询当前经营数据
- 我需要一个存储系统当做 Data Sink 保存(可能有变更的)大量数据以供中高并发 SQL 复杂查询访问

## 更严格的需求
如果实时短读写需要稳定的高频低延迟响应
● 或者干脆绕过消息队列缓存,在线应用直接写入数据库
☐ 需要系统负荷有余量
☐ 受到较少的干扰
☐ 使用行存格式
- 如果实时长查询快速返回结果
所有系统资源全力投入计算
☐ 使用列存格式
## 案例回顾
TiDB 为保证短读写,使用了行存而非列存 0 码力 |
36 页 |
9.32 MB
| 2 年前 3 ## Flink如何实时分析Iceberg数据湖的CDC数据
阿里巴巴 李劲松/胡争
FLINK FORWARD #ASIA 2020
#1
#2
#3
#4
常见的CDC
为何选择 Flink
如何实时写
未来规划
分析方案
+ Iceberg
入读取
FLINK FORWARD #ASIA 2020
## #1 常见的CDC分析方案
## 离线 HBase 集群分析 CDC CDC 数据
↓
## MySQL $ ^{®} $ → HBASE
## 方案评估
优点
1、CDC记录实时写入HBase。高吞吐+低延迟。
2、小范围查询延迟低。
3、集群可拓展
缺点
1、行存索引不适合分析任务。
2、HBase集群维护成本较高。
3、通过RegionServer定位HFile,Server的优化和缓存完全用不上。
4、数据格式绑定HFile,不方便 Parquet、Avro、Orc等。
FLINK FORWARD #ASIA 2020
## Apache Kudu 维护 CDC 数据集
## MySQL
## 方案评估
优点
1、支持实时更新数据,时效性佳。
2、列存加速,适合OLAP分析。
## 缺点
1、独立的Kudu集群,比较小众。维护成本高。
2、和 HDFS / S3 / OSS 等割裂。数据独立,且存储成本不如 S3 0 码力 |
36 页 |
781.69 KB
| 2 年前 3
|