3 使用Python加速文件传输和文件复制 Giampaolo Rodola
efficiently ○ copy files efficiently ● Part 2: ○ psutil ● 第1部分 ○基础的 Unix 概念 ○基础的 Socket 操作 ○高效的传输文件 ○高效的复制文件 ● 第2部分 ○ psutil UNIX concepts (oversimplified) [简单聊聊 Unix 的相关概念] System call / 系统调用 ● A way 系统调用 I/O ● open() ● read() ● write() Processes / 进程 ● fork() ● kill() ● wait() Filesystem / 文件系统 ● chmod() ● mkdir() ● getcwd() Communication / 通信 ● pipe() ● splice() ● mmap() Kernel / 内核 sys 0m1,099s File descriptors 文件描述符 File descriptors / 文件描述符 ● it's a reference to "something" (usually a file) ● it can be mixed with system calls ● 是对文件/套接字等资源的引用 ● 可以和系统调用连用 Print >>> import0 码力 | 78 页 | 654.51 KB | 1 年前3使用Rust与ClickHouse构建高效可靠的日志系统
第三届中国Rust开发者大会 使用Rust与ClickHouse构建高 效可靠的日志系统 刘炜 腾讯云(专有云) • 自我介绍 • 系统介绍 • 整体架构 • 系统实现 • 遇到问题 大纲 自我介绍 • 大龄码农 • 做过嵌入式/CDN/数据库开发 • 从C/C++到Rust • 现在在腾讯云(专有云)从事日志系统的开发 自我介绍 PhoTto / image / chart 系统介绍 系统介绍 • 属于腾讯专有云PaaS平台(TCS) • 承接TCS底座日志 • 从Loki=>Menicus • 提供日志的搜索/报警/处理等功能 系统介绍 • 为什么放弃 Loki • 资源占用过大 • 统计/计算能力比较弱 • 组件过多,排查问题比较困难 • 商业使用不友好的开源协议 • 为什么选择Mencius+ClickHouse • 存储计算与业务分离 • 每天 100G • 磁盘 • 压缩比 1:13 • 内存 • Mencius • 200M左右 • ClickHouse • 2G以下 • 接入端 • API Gateway • 日志服务(Mencius) • 存储(ClickHouse) 整体架构 • 协议层 • 处理层 • 计算层 • 存储层 系统实现 协议层 • 支持协议 • Loki • 写入 • Json/ProtoBuf0 码力 | 19 页 | 2.66 MB | 1 年前3从百度文件系统看大型分布式系统设计中的定式与创新
搜索基础架构 从百度文件系统 看大型分布式系统设计 自我介绍 • 颜世光, 专注于大规模分布式系统 • 代表作品 - 百度第三代Spider系统 - 百度文件系统BFS - 万亿量级实时数据库Tera - 集群调度系统Galaxy • 个人主页&Blog - https://github.com/bluebore - http://bluebore.cn 提纲 • 百度文件系统简介 • 分布式系统设计实践 单个集群通常几千台机器 • 百度文件系统(BFS)、集群调度系统(Galaxy)、分布式协 调服务(Nexus)是核心服务 • 实时任务与批量任务混合部署 Galaxy master BFS master Nexus lock service 分布式软件栈中的BFS The Baidu Stack 网络通信框架Sofa-pbrpc 分布式文件系统 BFS 集群调度系统 Galaxy 数据中心操作系统(DCOS) • 进程调度&内存管理 - Galaxy - 应用部署和任务调度 • 锁和信号量 - Nexus - 分布式锁 - 分布式通知 • 文件系统 - The Baidu File System - 持久化存储 百度文件系统架构 设计一个分布式系统要考虑的 • 数据与计算的分片 • 分区故障容忍 • 数据一致性 • 系统扩展性 • 延迟与吞吐 • 成本与资源利用率 • …0 码力 | 24 页 | 937.45 KB | 1 年前3FISCO BCOS 2.4.0 中文文档
BCOS 2.0+快速构建区块链系统,请参考 安装 • 基于FISCO BCOS 2.0+部署多群组区块链、构建第一个区块链应用,请参考 教程 • 深入了解FISCO BCOS 2.0+功能请看 配置文件和配置项、节点准入、并行交易、分布式存储、国 密 等请参考 使用手册 • 控制台:交 交 交互 互 互式 式 式命 命 命令 令 令行 行 行工 工 工具 具 具,可访问区块链节点,查询区块链状态,部署并调用合约等。 查 查看 看 看节 节 节点 点 点和 和 和数 数 数据 据 据版 版 版本 本 本 • 查看节点二进制版本:./fisco-bcos --version • 数据格式和通信协议的版本:通过配置文件 config.ini的supported_version配置项 获取 2.1 v2.4.0 v2.3.x升 升 升级 级 级到 到 到v2.4.0 • 兼 兼 兼容 容 容升 升 升级 级 级 合约事件推送 • 运行时启动新群组 更 更 更新 新 新 • 支持Channel Message v2协议 • 节点连接支持域名配置 • 部署合约的二进制长度放宽至256K • 交易出错打印更全面的日志 • build_chain.sh生成的SDK证书名更名为sdk.crt和sdk.key • 为提升性能进行了代码实现细节的调整 • 降低了节点内存的占用 修 修 修复 复 复 • 修复了0 码力 | 470 页 | 7.45 MB | 1 年前3FISCO BCOS 2.5.0 中文文档
BCOS 2.0+快速构建区块链系统,请参考 安装 • 基于FISCO BCOS 2.0+部署多群组区块链、构建第一个区块链应用,请参考 教程 • 深入了解FISCO BCOS 2.0+功能请看 配置文件和配置项、节点准入、并行交易、分布式存储、国 密 等请参考 使用手册 • 控制台:交 交 交互 互 互式 式 式命 命 命令 令 令行 行 行工 工 工具 具 具,可访问区块链节点,查询区块链状态,部署并调用合约等。 查 查看 看 看节 节 节点 点 点和 和 和数 数 数据 据 据版 版 版本 本 本 • 查看节点二进制版本:./fisco-bcos --version • 数据格式和通信协议的版本:通过配置文件 config.ini的supported_version配置项 获取 2.1 v2.5.0 v2.4.x升 升 升级 级 级到 到 到v2.5.0 • 兼 兼 兼容 容 容升 升 升级 级 级 重构libdevcrypto模块,优化代码结构,使用TASSL实现国密和非国密TLS连接 • 优化存储模块openTable的锁实现 • 优化区块数据编码为并行 • 优化大对象析构耗时为异步 • 优化日志输出机制,降低日志输出对性能的影响 • 优化MHD和交易池模块的线程数,减少内存占用 • 优化MySQL存储适配器实现,优化ZdbStorage的代码实现 修 修 修复 复 复 • 修复同一个区块内修0 码力 | 540 页 | 8.77 MB | 1 年前3FISCO BCOS 2.2.0 中文文档
BCOS 2.0+快速构建区块链系统,请参考 安装 • 基于FISCO BCOS 2.0+部署多群组区块链、构建第一个区块链应用,请参考 教程 • 深入了解FISCO BCOS 2.0+功能请看 配置文件和配置项、节点准入、并行交易、分布式存储、国 密 等请参考 使用手册 • 控制台:交 交 交互 互 互式 式 式命 命 命令 令 令行 行 行工 工 工具 具 具,可访问区块链节点,查询区块链状态,部署并调用合约等。 Chapter 3. 版 版 版本 本 本及 及 及兼 兼 兼容 容 容 FISCO BCOS Documentation, 发 发 发布 布 布 v2.2.0 • 数据格式和通信协议的版本:通过配置文件 config.ini的supported_version配置项 获取 3.1 v2.2.0 v2.1.x升 升 升级 级 级到 到 到v2.2.0 • 兼 兼 兼容 容 容升 升 升级 级 级 合约事件推送 • 运行时启动新群组 更 更 更新 新 新 • 支持Channel Message v2协议 • 节点连接支持域名配置 • 部署合约的二进制长度放宽至256K • 交易出错打印更全面的日志 • build_chain.sh生成的SDK证书名更名为sdk.crt和sdk.key • 为提升性能进行了代码实现细节的调整 • 降低了节点内存的占用 修 修 修复 复 复 • 修复了0 码力 | 418 页 | 6.51 MB | 1 年前3ThinkJS 3.0 中文文档
[project_name] 来创建项目,如: $ thinkjs new demo; $ cd demo; $ npm install; $ npm start; 执行完成后,控制台下会看到类似下面的日志: [2017-06-25 15:21:35.408] [INFO] - Server running at http://127.0.0.1:8360 [2017-06-25 15:21:35.412] 默认创建的项目结构如下: |--- development.js //开发环境下的⼊入⼝口⽂文件 |--- nginx.conf //nginx 配置⽂文件 |--- package.json |--- pm2.json //pm2 配置⽂文件 |--- production.js //⽣生成环境⼊入⼝口⽂文件 |--- README.md |--- src | |--- bootstrap //启动字执⾏行行⽬目录 |--- config //配置⽂文件⽬目录 | | |--- adapter.js // adapter 配置 | | |--- config.js // 默认配置⽂文件 | | |--- config.production.js //⽣生产环境下的默认配置⽂文件,和 config.js 合并 | | |--- extend.js //项⽬目扩展配置⽂文件 | | |--- middleware0 码力 | 129 页 | 2.12 MB | 1 年前3Go Web编程
这本书目前我放在Github上,我现在基本每天晚上抽空会写一些,时间有限、能力有限,所以希望更多的朋友参与到 这个开源项目中来。 撰写方法 撰写方法 文件命名 文件命名 每个章节建立一个md文件,如第11章的第3节,则建立11.3.md 11.3.md。 代码文件 代码文件 代码文件置于src目录之下。每小节代码按目录存放。如第11章的第3节的代码保存于src/11.3/ src/11.3/目录下。在正文中按 代码要go fmt后提交。注释文件注明其所属章节。 如何编译 如何编译 build.go依赖markdown的一个解析包,所以第一步先 go get github.com/russross/blackfriday 这样读者就可以把相应的Markdown文件编译成html文件,执行go build build.go,执行生成的文件,就会在底目 录下生成相应的html文件 交流 交流 欢迎大家加入QQ群:259316004 3.3 Go如何使得web工作 3.4 Go的http包详解 3.5 小结 4.表单 4.1 处理表单的输入 4.2 验证表单的输入 4.3 预防跨站脚本 4.4 防止多次递交表单 4.5 处理文件上传 4.6 小结 5.访问数据库 5.1 database/sql接口 5.2 使用MySQL数据库 5.3 使用SQLite数据库 5.4 使用PostgreSQL数据库 5.5 使用beedb库进行ORM开发0 码力 | 295 页 | 5.91 MB | 1 年前3CmlPHP v2.x 开发手册
6.6.2 1.6.6.3 1.6.6.4 1.6.6.5 1.6.6.6 1.6.6.7 1.6.6.8 目录 Introduction CmlPHP简介 初始化一个项目 入口文件 项目目录说明 开发指引 配置 normal.php common.php plugin.php route.php 其它配置项 配置的获取 动态修改配置 URL模式 路由 获取总数 获取列表 注意事项 同时查询多个库 模型-MongoDB Orm详细Api 服务 视图 统一的API Html模板引擎 Blade模板引擎 锁-并发处理 缓存 语言包 日志 调试 Session自定义保存位置 框架自带的扩展包 插件 使用说明 系统挂载点 常用常量 命令行运行程序 守护工作进程 队列服务 2 1.6.22 1.6.23 1.6 1.9.1 1.10 1.11 权限管理 数据验证 验证码 文件上传 数据库迁移 部署 伪静态配置 Apache Nginx 静态资源管理 安全 防注入 用户数据输入 csrf 加密解密 常见问题 模板中不同的url_model模式下传参给后端 ? &符混乱 服务高可用 升级日志 3 CmlPHP v2.x开发手册 本教程是针对CmlPHP开发框架的V20 码力 | 143 页 | 1.54 MB | 1 年前3CmlPHP v2.x 开发手册
1.7 1.6.2 1.6.3 1.6.4 1.6.4.1 1.6.5 1.6.5.1 1.6.5.2 目录 Introduction CmlPHP简介 初始化一个项目 入口文件 项目目录说明 开发指引 配置 normal.php common.php plugin.php route.php 其它配置项 配置的获取 动态修改配置 URL模式 路由 1.6.23 注意事项 同时查询多个库 模型-MongoDB Orm详细Api 服务 视图 统一的API Html模板引擎 Blade模板引擎 锁-并发处理 缓存 语言包 日志 调试 Session自定义保存位置 框架自带的扩展包 插件 使用说明 系统挂载点 常用常量 命令行运行程序 守护工作进程 队列服务 权限管理 数据验证 1.6.24 1 1.8.4 1.9 1.9.1 1.10 1.11 验证码 文件上传 数据库迁移 部署 伪静态配置 Apache Nginx 静态资源管理 安全 防注入 用户数据输入 csrf 加密解密 常见问题 模板中不同的url_model模式下传参给后端 ? &符混乱 服务高可用 升级日志 CmlPHP v2.x开发手册 本教程是针对CmlPHP开发框架的V20 码力 | 245 页 | 720.67 KB | 1 年前3
共 487 条
- 1
- 2
- 3
- 4
- 5
- 6
- 49