海尔实时计算平台技术选型与实践
Queue Kafka Spout Storm Topology Monitor Server Message Notification 实时计算质量保证 实时计算结果正确性如何验证? 方案一:结果导向 Source Flume HDFS Kafka Storm Mr / Impala Result Result 备 份 比 对 方案二:经验值 w1 w2 Zeppelin技术: • 基于JAVA开发 • 前端Angularjs1.5+nvd3.js Zeppelin改造 Server: • 支持echarts json数据 • 前端的计算逻辑都改到后端 前端: • 前端nvd3.js替换成echarts • 更强大易用的报表设计器 改造后的zeppelin报表设计器 字段 控制区 行列控制区 数据执行区 标记卡 控制区 图表辅助0 码力 | 41 页 | 3.21 MB | 1 年前3苏宁易购小程序架构实践 苏宁 禹立彬
cookie不能是http only Webview + 后端中转 发起真正的请求前将cookie,POST 到后端服务,获得cookie对应的key ,然后请求 proxy?key={key}&url={trueURL}, 后 端服务写入cookie后,302跳转到真 正需要打开的页面,于是cookie传递 Webview + 后端中转 其他业务组件 • 支付(百度和微信) •0 码力 | 36 页 | 833.39 KB | 1 年前3刘道平-从0到1,移动政务应用小程序系统架构演化
小程序 个人 中心 电子 证照 服务 办理 服务 查询 移动政务 应用平台 小程序 端 APP端 运营数 据分析 一体机 端 1.项目建设,考虑的维度有:需求-产品-前后端开发-测试-上线… 2.产品研发,需考虑的维度:产品可扩展,如多端支持(小程序端、APP端、一体机端); 功能可扩展,如支持个人中心、证照、办事、资讯、特色专区等;可移植、易安装等; 及衍生的支撑工具系统,如运营数据分析; 二、一个特殊的移动政务应用项目 三、政务服务小程序平台研发过程 四、政务服务小程序平台架构演化 五、政务服务系统架构小结与思考 17、小结要点1 – 专业化分工、高效率协作 18、小结要点2– 前后端分离、尽早确定开发规范 19、小结要点3– 云开发、事半功倍 20、小结要点4 – 重视安全、从设计开始考虑系统安全 21、小结要点5 – 敏捷研发工具TAPD 1.TAPD是一个SAAS化0 码力 | 35 页 | 15.60 MB | 1 年前3领域驱动设计&中台/领域驱动架构透析与架构解耦
领域的边界 整洁架构 六边形架构 微服务架构 领域驱动架构的演进 经典的DDD分层架构 经典的DDD分层架构 经典的三层架构 避免贫⾎血模型 与基础设施的解耦 与基础设施的解耦 前后端的解耦 引⼊入应⽤用层 基础设施层的本质 DDD与C4模型 C4模型 分层架构 六边形架构 DDD与RUP 4+1视图 RUP 4+1 视图 RUP 4+1 视图与DDD的关系 场景视图0 码力 | 29 页 | 3.02 MB | 1 年前3海量用户推送后台系统架构实践-曾振波
内存池 • 内存对齐 • CPU Affinity • 网卡多队列 • 用户态协议栈(DPDK) 极光推送后台系统架构 05 基础组件服务化 • 业务方透明 • 统一管理 • 屏蔽后端变化 • AutoScale,Failover,AutoRecover • JMQ - RabbitMQ, RocketMQ • JCache - Redis, LevelDB(PIKA) 极光推送后台系统架构0 码力 | 23 页 | 1.26 MB | 1 年前3领域驱动设计&中台/架构分层模型适配
eat-diagram-about-our-ddd-nlayered-net-4-0-architecture/ 微软 DDD NLayered .NET 4.0 Architecture 前后端分离,完全剥离曾现层 为了了简便便, 合并Web Service和Application层 Controller概念下移到Application层 参考架构对⽐比 微服务架构 https://martinfowler0 码力 | 39 页 | 2.54 MB | 1 年前3大规模分布式系统架构下调测能力构建之道
我和某同事通过服务框架进行调用联调,结果另一同事也把同 名服务挂了上来,不幸的是,他的服务版本和我们的不一样, 结果,一系列的灵异状况发生了… 4. 依赖的远程服务逻辑发生变化了,但负责它的团队没有通知到 我,结果上线后直接导致生产事故。 5. 我和其他团队共用一套分布式缓存服务,为了防止数据覆盖, 我只能和别人轮流排队上线调试,我等了一天,结果只能用一 个小时。 6. 我写了个消息C 我写了个消息Consumer,布到线上准备测测,结果,别人的消 息先到了,一下把我的预置数据全搞乱了… 7. 我的开发机性能还行,我想自己装一套依赖环境提高开发调测 效率,结果消息服务、缓存服务、服务框架装完一启动,80% 的系统资源就没有了,想想还有一堆的应用服务还没装,直接 泪崩… 8. 办公区断网,所有线上依赖环境都无法访问了,得,今天啥也 干不了了,回家洗洗睡吧…. … ….. ……… 1 mock能力启用时,服务容器初始化期间将加载mock数据文件到内存中,每个服务请求将和mock数据的入参定 义进行比对,满足(静态匹配 或动态匹配)规范的请求,直接用mock数据的出参定义作为服务调用的结果。 应用无感知 无需修改应用代码,单元测试代码中也无需添加任何的mock语句。 服务 调用 Invoker … Remote Call 负载均衡 策略 Runtime Mock数据文件0 码力 | 19 页 | 2.74 MB | 1 年前3唯品会调度系统的前世今生
执行完成 作业状态变迁 内部系统集成 ZK 执行结点 Job A Job B 作业调度器 控制台UI 消息系统 控制、调度结果下发 作业控制 结点监听 作业调度 执行日志 监控日志 日志查询 消息订阅 告警信息 执行结果 统一认证 架构体系 部署模型(跨机房) IDC-A IDC-B 接入域-A 执行结点 作业实现 ZK saturn-zk-* ZK 执行结点 Job A Job B 作业调度器 控制台UI 监控系统 Logstash统 一日志 消息系统 控制、调度结果下发 作业控制 结点监听 作业调度 执行日志 监控日志 日志查询 消息订阅 报警系统 告警信息 执行结果 CAS认证 统一认证 授权中心 内部集成 容器平台 运维流程管理 报表统计 Demo Time Dashboard – Pull请求 Push结果 定时处理 Push结果 通过配置的方式配置接收消息的队列名称或 者是发送结果到那个队列的名称 源演进 - 异步微服务调度 Saturn Saturn 消息系统 Channel1 Channel2 Handler Caller message message Handler message message 包含接收结果 的channel信息 开源演进0 码力 | 58 页 | 5.40 MB | 1 年前3美团点评旅游推荐系统的演进
World 新美大酒旅 国内发展最快的一站式综合住宿服务 平台 国内最大的在线门票交易平台 酒旅搜索推荐 2015Q3 组建推荐团队 2015Q4 周边游频道内推荐 2016Q1 搜索少/无结果推荐 2016Q2 详情页推荐 2016Q3 酒旅交叉推荐 2016Q4 点评旅游推荐 酒店住宿 境内度假 境外度假 大交通 搜索/推荐 数据产品 酒旅数据仓库 数据挖掘 集团数据平台 旅游推荐产品形态 合适 >期望目标值 远差于训练集 Overfiting 模型调试 模型Debug工具 从海量大数据的离线计算到高并 发在线服务的推荐引擎架构设计 猜你喜欢 筛选扩大召回 详情页推荐 搜索少/无结果推荐 …. 应用 场景 层 推荐 服务 层 召回 过滤 排序 POST Rerank 分流 日志收集 Thrift 接口 核心 数据 层 城市热销 路由调用 后台管理 场景配 置 周边游频道首页 酒旅交叉推荐 看了又看 景点POI详情页 推荐应用 POI标签 筛选异地召回 筛选列表页 推荐应用 搜索少/无结果推荐 • 无结果推荐 • 查询改写 • Query CF • Location-Based • 热销POI • 少结果推荐 • POI CF • POI同品类推荐 总结0 码力 | 49 页 | 5.97 MB | 1 年前3分布式异地多活架构实践之路
根据用户IP来 进行运营商区 域的调度 结果:无法就近返回最优的机房IP、机房之间负载不均衡、机房异常后无法快速容灾 精准流量调度-全局 HTTPDNS LocalDNS 智能DNS 合肥IDC 北京IDC 广州IDC 弱依赖,可控 SDK封装: 重点域名预解析 缓存域名解析结果(sp、 wifi名) 出错或快过期异步解析 合法IP动态下发 IP请求结果统计 多级兜底容错 解析IP合法,IP请求0 码力 | 36 页 | 1.66 MB | 1 年前3
共 19 条
- 1
- 2