TokuDB索引结构## TokuDB索引结构 网易杭州研究院---胡争(博客:openinx.github.io) ## TokuDB简介 - 基于分形树实现的MySQL存储引擎 • Tokutek公司2007年研发,2013年开源 • 2015年Percona公司收购Tokutek公司 • TokuDB内部的K-V存储引擎为ft-index • TokuMx: ft-index + MongoDB Server层代码 插入性能大大高于InnoDB(分形树vs B+树) • 查询性能略低于InnoDB - 在线执行DDL操作(不阻塞写操作) • 超高压缩率(TokuDB 4M vs InnoDB 16K) 更高性能,更低成本! ## 分形树索引结构(一)  ## 分形树结构(二)0 码力 | 19 页 | 1.97 MB | 2 年前3
索引与切片## PyTorch ## 索引与切片 主讲人:龙良曲 ## I ndexing - dim 0 first ☐ ☐ ☐ 1 In [130]: 2 a=torch.rand(4,3,28,28) 3 In [131]: a[0].shape 4 Out[131]: torch.Size([3, 28, 28]) 5 6 In [138]: a[0,0].shape 7 Out[138]:0 码力 | 10 页 | 883.44 KB | 2 年前3
VMware vSphere:优化和扩展# vmware $ ^{®} $ EDUCATION SERVICES # VMware vSphere:优化和扩展 ## 培训方式 • 讲师指导培训 · 实时在线培训 ## 课程用时 • 为期五 (5) 天的讲师指导课堂培训 - 听课时间占 60%,动手实验时间占 40% ## 目标学员 经验丰富的系统管理员和系统集成人员 ## 课程适用对象 区管理员 □ 专家 ☒ $ ^{TM} $ 5.0 讲授。 ## 课程目标 课程结束后,您应能胜任以下工作: - 配置和管理大型成熟企业的 ESXi 网络和存储系统。 • 管理 vSphere 环境变更。 • 优化所有 vSphere 组件的性能。 ● 排除操作故障并找出造成这些故障的根本原因。 - 使用 VMware vSphere $ ^{®} $ ESXi $ ^{™} $ Shell 和 VMware 将虚拟机从标准交换机迁移到分布式交换机 - 了解分布式交换机的功能特性,例如 PVLAN、VMware vSphere $ ^{®} $ 网络 I/O 控制、端口镜像和 NetFlow ## 网络优化  • 了解网络适配器的性能特点 -0 码力 | 2 页 | 341.36 KB | 2 年前3
Greenplum上云与优化# Greenplum上云与优化 — ApsaraDB for Greenplum介绍 主办单位:Alibaba Group 阿里巴巴集团 战略合作伙伴:intel 杭州 张广舟(明虚) 阿里云高级专家 ## 目录 ApsaraDB for GP的定位 ApsaraDB for GP的内核优化 未来的规划 # ApsaraDB for GP的定位 ## ApsaraDB for GP的定位 GP的定位 GP的优势? 与其他技术的对比? 为什么上云? ## ApsaraDB for GP的定位 MPP + 列存压缩 ApsaraDB for GP = 复杂SQL + 查询优化器 本地高效存储 + 高速网络 + 预置稳定资源 = 简单、高效解决大数据分析需求 ### GP vs. RDS? MPP处理举例 ## Select count(*) from customer group [Image](/uploads/documents/f/2/6/d/f26d9043d030148cb59ffb98d820fd24/p9_3.jpg) ### GP vs. Hadoop? Orca优化器 SQL Runtime # >5-30倍的性能优势 本地存储 ### ApsaraDB for GP vs. AWS Redshift? ## “有史以来卖的最好的云服务” |对比项目|ApsaraDB0 码力 | 26 页 | 1.13 MB | 2 年前3
HBase最佳实践及优化## cloudera ## HBase最佳实践及优化 陈飚 cb@cloudera.com Cloudera ## 关于我 陈飚 Cloudera售前技术经理、资深方案架构师 http://biaobean.pro  原Intel 原Intel Hadoop发行版核心开发人员, 成功实施并运维多个上百节点Hadoop大数据集群。 – 曾在Intel编译器部门从事服务器中间件软件开发,擅长服务器软件调试与优化,与团队一起开发出世界上性能领先的XSLT语言处理器 – 2010 年后开始Hadoop 产品开发及方案顾问,先后负责Hadoop 产品化、HBase 性能调优,以及行业解决方案顾问 ## HBase的历史 HBase是Google 分布式的多层次映射表结构(key-value形式,value有多个) - 固定一个数据模型(固定数据模型能得到高性能,同时满足应用需求) - 无数据类型 ## HBase的实现特性 - 非常高的数据读写速度,为写特别优化 - 高效的随机读取 – 对于数据的某一个子集能够进行有效地扫描 - 具有容错特性,能够将数据持久化的非易失性存储中 – 使用HDFS做底层存储,可利用Hadoop的压缩Codec等减少空间占用0 码力 | 45 页 | 4.33 MB | 2 年前3
PostgreSQL 查询优化器解析0 码力 | 37 页 | 851.23 KB | 1 年前3
Oracle 和 MySQL 性能优化感悟0 码力 | 19 页 | 3.82 MB | 2 年前3
Go性能优化概览-曹春晖## GCN ## 业务性能优化概览  By Xargin 《Go 语言高级编程》合著者 Go contributor  ## 目录 优化的前置知识 ___ 01 生产环境的优化 ___ 02 Continuous profiling ___ 03 ## 第一部分 优化的前置知识 ## Latency numbers every programmer should know |Event|Latency|Scaled| |---|---|---| |1 CPU |Hardware (HW) virtualization system boot|40 s|4 millennia| |Physical system reboot|5 m|32 millennia| ## 优化的前置知识 • 要能读得懂基本的调用栈 • 了解 Go 语言内部原理(runtime,常用标准库) • 了解常见的网络协议(http、pb) https://github.com/bagder/http2-explained0 码力 | 40 页 | 8.69 MB | 2 年前3
TGT服务器的优化## TGT 服务器的优化 ## 块设备协议 • NBD • Linux专有块设备协议 • iSCSI • 广泛支持的外部设备协议(块,磁带等) ## Curve云原生存储支持块设备 • 通过NBD,只支持Linux - 通过SDK API,目前只支持Linux - PFS · 扩大使用范围 - 通过iSCSI支持更多系统,例如Windows, 类UNIX系统等,使用两项基础技术 多个target时,如果挂的设备多,一旦客户端请求量大,就会忙不过来。 • 开源界有尝试修改 - 例如sheepdog的开发者提交过一个patch,但是测试效果不理想,分析原因,event loop依然是瓶颈 ## 对TGT的性能优化 • IO是使用多个epoll线程,充分发挥多CPU能力 - 当前策略是每个target一个epoll线程,负责Initiator发过来的I/O - 好处是各target上的CPU使用由OS负责分配,CPU分配粒度更细 管理面是主线程,登录,增、删、改target, lun, session, connection, params都在主线程,而target epoll线程也要使用这些数据,多线程冲突,数据一致性问题就来了 ## 对TGT的性能优化(续) ## • 为每一个target增加一把锁 • Target event loop (TEL) 线程和管理面线程使用这把锁互斥 • TEL在运行时锁住这把锁,管理面只能等待,等TEL线程进入epoll0 码力 | 15 页 | 637.11 KB | 1 年前3
C++高性能并行编程与优化 - 课件 - 07 深入浅出访存优化_1.jpg)  # 深入浅出访存优化 by 彭于斌 (@archibate) 往期录播:https://www.bilibili.com/video/BV1fa411r7zp 课程 PPT 和代码:https://github.c 还有一种办法就是让 MyClass 内部是 SOA,而外部仍是一个 vector的 AOS——这种内存布局称为 AOSOA。 - 缺点是必须保证数量是 1024 的整数倍,而且因为要两次指标索引,随机访问比较烦。 • 这里的 1024 并非随意选取,而是要让每 |Benchmark|Time|CPU|Iterations| |---|---|---|---| |BM\_aos|47729791 应该用 SOA 分开存”是没问题的。 - 而且 SOA 在遇到存储不是 vector,而是稀疏的哈希网格之类索引有一定开销的数据结构,可能就不适合了。这就是为什么王鑫磊最喜欢 AOSOA:在高层保持 AOS 的统一索引,底层又享受 SOA 带来的矢量化和缓存行预取等好处……就是随机索引比较麻烦。 masked_selectindex_selectvSphere 优化ESXivCenter ServervSphere Auto DeployvSphere Storage DRSApsaraDB for GreenplumAWS RedShiftMPP列存压缩性能优化HBaseRegionServerCompaction吞吐率GCPostgreSQL查询优化器执行计划规划阶段预处理移动APP性能监测NSURLProtocolMethod swizzlingIsa swizzlingiOSCPU占用内存占用GoroutineGC优化性能调优内存分配序列化调用栈压测指标TGT服务器块设备协议Curve云原生存储FIO性能测试访存优化缓存预取并行编程内存带宽寄存器分块













