3 使用Python加速文件传输和文件复制 Giampaolo Rodolaefficiently ○ copy files efficiently ● Part 2: ○ psutil ● 第1部分 ○基础的 Unix 概念 ○基础的 Socket 操作 ○高效的传输文件 ○高效的复制文件 ● 第2部分 ○ psutil UNIX concepts (oversimplified) [简单聊聊 Unix 的相关概念] System call / 系统调用 ● A way 系统调用 I/O ● open() ● read() ● write() Processes / 进程 ● fork() ● kill() ● wait() Filesystem / 文件系统 ● chmod() ● mkdir() ● getcwd() Communication / 通信 ● pipe() ● splice() ● mmap() Kernel / 内核 sys 0m1,099s File descriptors 文件描述符 File descriptors / 文件描述符 ● it's a reference to "something" (usually a file) ● it can be mixed with system calls ● 是对文件/套接字等资源的引用 ● 可以和系统调用连用 Print >>> import0 码力 | 78 页 | 654.51 KB | 1 年前3
07 PHP的输⼊、表单与⽂件上传 杨亮 《PHP语⾔程序设计》PHP的输⼊入、表单 与⽂文件上传 杨亮 Web基本流程 PC Mobile 服务器 (Apache) (IIS) 后端脚本 (PHP) (JSP) (ASP) 数据库 (MySQL) (Oracle) (Access) HTTP 请求 对应⽂文件 获取数据 返回数据 返回⻚页⾯面 返回⻚页⾯面 请求⻚页⾯面 服务器端 客户端 html css javascript 5 form.php⽂文件 结果 @ -> %40 空格 -> + [ -> %5B ] -> %5D 中⽂文 -> UTF-8编码 password=123456 GET传内容相当不安全,POST也不安全 密码如何传输、存储才最为安全? 密码如何设定才最安全?标签 按照HTML代码显⽰示 通过表单上传⽂文件 4
0 码力 | 12 页 | 1.12 MB | 1 年前3
从百度文件系统看大型分布式系统设计中的定式与创新搜索基础架构 从百度文件系统 看大型分布式系统设计 自我介绍 • 颜世光, 专注于大规模分布式系统 • 代表作品 - 百度第三代Spider系统 - 百度文件系统BFS - 万亿量级实时数据库Tera - 集群调度系统Galaxy • 个人主页&Blog - https://github.com/bluebore - http://bluebore.cn 提纲 • 百度文件系统简介 • 分布式系统设计实践 单个集群通常几千台机器 • 百度文件系统(BFS)、集群调度系统(Galaxy)、分布式协 调服务(Nexus)是核心服务 • 实时任务与批量任务混合部署 Galaxy master BFS master Nexus lock service 分布式软件栈中的BFS The Baidu Stack 网络通信框架Sofa-pbrpc 分布式文件系统 BFS 集群调度系统 Galaxy 数据中心操作系统(DCOS) • 进程调度&内存管理 - Galaxy - 应用部署和任务调度 • 锁和信号量 - Nexus - 分布式锁 - 分布式通知 • 文件系统 - The Baidu File System - 持久化存储 百度文件系统架构 设计一个分布式系统要考虑的 • 数据与计算的分片 • 分区故障容忍 • 数据一致性 • 系统扩展性 • 延迟与吞吐 • 成本与资源利用率 • …0 码力 | 24 页 | 937.45 KB | 1 年前3
基于 Java EE 的企业应用系统设计 - Spring MVC 03大纲 Spring 文件上传 Spring 文件下载 Spring 用户登录 监听器 基于 Java EE 的企业应用系统设计 Spring MVC 王晓东 wangxiaodong@ouc.edu.cn 中国海洋大学 June 14, 2017 大纲 Spring 文件上传 Spring 文件下载 Spring 用户登录 监听器 References 1. Spring MVC: 9781771970310) 大纲 Spring 文件上传 Spring 文件下载 Spring 用户登录 监听器 大纲 Spring 文件上传 示例:Apache Commons FileUpload 上传文件 Spring 文件下载 示例:隐藏资源 示例: 防止交叉引用 Spring 用户登录 监听器 大纲 Spring 文件上传 Spring 文件下载 Spring 用户登录 监听器 ���� ���� Spring 文件上传 示例:Apache Commons FileUpload 上传文件 Spring 文件下载 示例:隐藏资源 示例: 防止交叉引用 Spring 用户登录 监听器 大纲 Spring 文件上传 Spring 文件下载 Spring 用户登录 监听器 文件上传 O Spring MVC 中处理文件上传有两种方法 1. 使用 Apache Commons0 码力 | 40 页 | 651.07 KB | 1 年前3
PaddleDTX 1.0.0 中文文档docker 安装 客户端工具 操作XuperDB 操作Distributed AI 案例应用-线性回归算法测试 案例简介 测试脚本说明 上传样本文件 训练任务 预测任务 模型评估 案例应用-逻辑回归算法测试 案例简介 测试脚本说明 上传样本文件 训练任务 预测任务 模型评估 系统详解 部署架构 计算需求方(Requester) 任务执行节点(Executor Node) 数据持有节点(DataOwner PaddleDTX中的算法,一般指的是经过分布式改造的机器学习算法,即联邦学 习算法。 目前开源了纵向联邦学习算法,包括多元线性回归和多元逻辑回归。 训练样本和预测数据集 PaddleDTX中的训练样本和预测数据集都是以文件的形式存储于中心化存储网 络,在发布训练任务或者预测任务的时候,由计算需求节点指定。 模型 算法和训练样本确定模型。通过模型可以对预测数据集的标签值进行预测。 PaddleDTX中的模型,以“分 提供联邦学习训练参数的评估能力,通过交叉验证等方式评估训练参数的 优劣; 4. 优化目前使用的加法同态算法Paillier的性能; 5. 去中心化存储服务支持负载均衡策略,根据存储节点剩余资源和以往表现 情况,在文件分发时找到最优节点列表。 快速安装 我们为您提供了能够快速拉起 PaddleDTX 测试网络的脚本,在使用前需要您 准备如下环境: docker, 推荐版本18.03+ 点击下载安装 docker0 码力 | 53 页 | 1.36 MB | 1 年前3
PaddleDTX 1.1.0 中文文档docker 安装 客户端工具 操作XuperDB 操作Distributed AI 案例应用-线性回归算法测试 案例简介 测试脚本说明 上传样本文件 训练任务 预测任务 模型评估 案例应用-逻辑回归算法测试 案例简介 测试脚本说明 上传样本文件 训练任务 预测任务 模型评估 系统详解 部署架构 计算需求方(Requester) 任务执行节点(Executor Node) 数据持有节点(DataOwner PaddleDTX中的算法,一般指的是经过分布式改造的机器学习算法,即联邦学 习算法。 目前开源了纵向联邦学习算法,包括多元线性回归和多元逻辑回归。 训练样本和预测数据集 PaddleDTX中的训练样本和预测数据集都是以文件的形式存储于中心化存储网 络,在发布训练任务或者预测任务的时候,由计算需求节点指定。 模型 算法和训练样本确定模型。通过模型可以对预测数据集的标签值进行预测。 PaddleDTX中的模型,以“分 支持横向联邦学习算法,计划先对多元线性回归和多元逻辑回归进行改 造; 3. 优化目前使用的加法同态算法Paillier的性能; 4. 去中心化存储服务支持负载均衡策略,根据存储节点剩余资源和以往表现 情况,在文件分发时找到最优节点列表。 快速安装 我们为您提供了能够快速拉起 PaddleDTX 测试网络的脚本,在使用前需要您 准备如下环境: docker, 推荐版本18.03+ 点击下载安装 docker0 码力 | 57 页 | 1.38 MB | 1 年前3
PaddleDTX 1.0.0 中文文档中的算法,一般指的是经过分布式改造的机器学习算法,即联邦学习算法。 目前开源了纵向联邦学习算法,包括多元线性回归和多元逻辑回归。 2.5 训练样本和预测数据集 PaddleDTX 中的训练样本和预测数据集都是以文件的形式存储于中心化存储网络,在发布训练任务或者预测 任务的时候,由计算需求节点指定。 2.6 模型 算法和训练样本确定模型。通过模型可以对预测数据集的标签值进行预测。PaddleDTX 中的模型,以“分片” 提供联邦学习训练参数的评估能力,通过交叉验证等方式评估训练参数的优劣; 4. 优化目前使用的加法同态算法 Paillier 的性能; 5. 去中心化存储服务支持负载均衡策略,根据存储节点剩余资源和以往表现情况,在文件分发时找到最 优节点列表。 5 PaddleDTX Documentation 6 Chapter 3. 正在进行中 CHAPTER4 快速安装 我们为您提供了能够快速拉起 PaddleDTX https://github.com/PaddlePaddle/PaddleDTX.git 2. 编译 XuperDB $ cd PaddleDTX/xdb $ make 编译产出为 output 文件夹,内容为: ├── conf │ ├── config-dataowner.toml │ └── config-storage.toml ├── xdb //数 据 存 储 服 务 启 动0 码力 | 57 页 | 624.94 KB | 1 年前3
PaddleDTX 1.1.0 中文文档中的算法,一般指的是经过分布式改造的机器学习算法,即联邦学习算法。 目前开源了纵向联邦学习算法,包括多元线性回归和多元逻辑回归。 2.5 训练样本和预测数据集 PaddleDTX 中的训练样本和预测数据集都是以文件的形式存储于中心化存储网络,在发布训练任务或者预测 任务的时候,由计算需求节点指定。 2.6 模型 算法和训练样本确定模型。通过模型可以对预测数据集的标签值进行预测。PaddleDTX 中的模型,以“分片” 支持横向联邦学习算法,计划先对多元线性回归和多元逻辑回归进行改造; 3. 优化目前使用的加法同态算法 Paillier 的性能; 4. 去中心化存储服务支持负载均衡策略,根据存储节点剩余资源和以往表现情况,在文件分发时找到最 优节点列表。 7 PaddleDTX Documentation 8 Chapter 3. 正在进行中 CHAPTER4 快速安装 我们为您提供了能够快速拉起 PaddleDTX https://github.com/PaddlePaddle/PaddleDTX.git 2. 编译 XuperDB $ cd PaddleDTX/xdb $ make 编译产出为 output 文件夹,内容为: ├── conf │ ├── config-dataowner.toml │ └── config-storage.toml ├── xdb //数 据 存 储 服 务 启 动0 码力 | 65 页 | 687.09 KB | 1 年前3
ThinkJS 1.2 中文文档Http、命令⾏行、WebSocket、Restful等多种⽅方式调⽤用 CBD 架构,MVC 模式 基于 Promise,异步编程更加简单 封装了 Db, Cache, Session 等常⽤用功能 开发模式下⽂文件修改后⽴立即⽣生效,⽆无需重启 ThinkJS 需要 Node.js 的版本 >=0.10.x ,可以通过 node -v 命令查看当前 node 的版本。如果未安装 node 或者版本过低,请到 ThinkJS cd 项⺫⽬目⺫⽬目录; npm update thinkjs; 新建项⺫⽬目 # 在合适的位置创建⼀一个新⺫⽬目录,new_dir_name 为你想创建的⽂文件夹名字 mkdir new_dir_name; # 进⼊入这个⺫⽬目录 cd new_dir_name; # 通过 thinkjs 命令创建项⺫⽬目 创建项⺫⽬目后,会⽣生成如下的⺫⽬目录结构: 下⾯面对⼏几个重要的⽂文件进⾏行简单的说明。 www/index.js 项⺫⽬目结构说明 ├── App │ ├── Common │ │ └── common.js -‐-‐-‐-‐ 通⽤用函数⽂文件,⼀一般将项⺫⽬目⾥里的⼀一些全局函数放在这⾥里0 码力 | 104 页 | 1.29 MB | 1 年前3
PyWebIO v1.0.3 使用手册options=['A', 'B', 'C', 'D']) # 多行文本输入 text = textarea('Text Area', rows=3, placeholder='Some text') # 文件上传 img = file_upload("Select a image:", accept="image/*") input('This is label', type=TEXT, placeholder='This 调用作为单元格内容: 上例显示效果如下: 类似地, popup() 也可以将 put_xxx() 调用作为弹窗内容: # Markdown输出 put_markdown('~~删除线~~') # 文件输出 put_file('hello_word.txt', b'hello word!') # 显示一个弹窗 popup('popup title', 'popup text content') 前端静态文件;暴露 PyWebIO后端接口。这其中需要注意前端页面和后端接口的路径约定, 以及前 端静态文件与后端接口分开部署时因为跨域而需要的特别设置。 集成方法 不同Web框架的集成方法如下: Tornado Flask Django aioh�p 需要在Tornado应用中引入两个 RequestHandler , 一个 RequestHandler 用 来提供前端静态文件,另一个 RequestHandler0 码力 | 106 页 | 7.34 MB | 1 年前3
共 457 条
- 1
- 2
- 3
- 4
- 5
- 6
- 46













