尚硅谷大数据技术之Hadoop(入门)2)高扩展性:在集群间分配任务数据,可方便的扩展数以千计的节点。 Hadoop102 Hadoop103 Hadoop104 Hadoop105 Hadoop106 双11、618可以动 态增加服务器 Hadoop102 Hadoop103 Hadoop104 Hadoop优势(4高) 3)高效性:在MapReduce的思想下,Hadoop是并行工作的,以加快任务处 理速度。 4) 4)高容错性:能够自动将失败的任务重新分配。 Hadoop102 Hadoop103 Hadoop104 Hadoop101 单台服务 器工作 计算任务 集群工作 计算子任务 计算子任务 计算任务汇总 Hadoop102 Hadoop103 Hadoop104 计算子任务 计算子任务 计算任务汇总 计算子任务 尚硅谷大数据技术之 Hadoop(入门) 1)ResourceManager(RM):整个集群资源(内存、CPU等)的老大 3)ApplicationMaster(AM):单个任务运行的老大 2)NodeManager(NM):单个节点服务器资源老大 4)Container:容器,相当一台独立的服务器,里面封装了 任务运行所需要的资源,如内存、CPU、磁盘、网络等。 NodeManager Container NodeManager Container0 码力 | 35 页 | 1.70 MB | 1 年前3
消息中间件RocketMQ原理解析 - 斩秋接 口 , 处 理 回 调 , 在 调 endTransactionOneway 向 broker 发送请求更新事物消息的最终状态 无 Prepared 消息,且遍历完,则终止扫描这个文件的定时任务 2.2.5 事物消息的 load&recover TransactionStateService.load ()事物状态服务加载, 加载只是建立文件映射 redoLog 队列恢复,加载本地 变量 构建 offsetStore 消费进度存储对象 启动消费消息服务 向 mqClientFactory 注册本消费者 启动 client 端远程通信 启动定时任务 定时获取 nameserver 地址 定时从 nameserver 获取 topic 路由信息 定时清理下线的 borker 定时向所有 broker entlyServic的submitConsumeRequest方法构建ConsumeRequest 任务提交到线程池。 长轮询向 broker 拉取消息是批量拉取的, 默认设置批量的值为 pullBatchSize = 32, 可配置 消费端 consumer 构建一个消费消息任务 ConsumeRequest 消费一批消息的个数是 可配置的 consumeMessageBatchMaxSize0 码力 | 57 页 | 2.39 MB | 1 年前3
OpenShift Container Platform 4.10 虚拟化于运行和管理虚拟机工作负载以及容器工作负载。 OpenShift Virtualization 通过 Kubernetes 自定义资源添加新对象至 OpenShift Container Platform 集群 中,以启用虚拟化任务。这些任务包括: 创建和管理 Linux 和 Windows 虚拟机 通过各种控制台和 CLI 工具连接至虚拟机 导入和克隆现有虚拟机 管理虚拟机上附加的网络接口控制器和存储磁盘 在节点间实时迁移虚拟机 Container Platform 集群升级。这包括使用 hostpath-provisioner 存储或 SR-IOV 网络接口的虚拟机。 作为临时解决方案,您可以重新配置虚拟机以便在集群升级过程中关闭它们。在虚拟机配置 文件的 spec 部分中: 1. 修改 evictionStrategy 和 runStrategy 字段。 a. 删除 evictionStrategy: LiveMigrate 通过创建包含令牌的磁盘镜像来实施服务帐户卷。如果您迁移虚拟机,则服务帐户 卷无效。(BZ#2037611) 作为临时解决方案,使用用户帐户而不是服务帐户,因为用户帐户令牌没有绑定到特定 pod。 如果虚拟机在关闭过程中崩溃或挂起,新的关闭请求不会停止虚拟机。(BZ#2040766) 如果您将 HyperConverged 自定义资源(CR)配置为在安装驱动程序前启用介质设备,则不会启 用介质设备。更新可能会触发此问题。例如,如果在0 码力 | 307 页 | 3.45 MB | 1 年前3
OpenShift Container Platform 4.13 虚拟化于运行和管理虚拟机工作负载以及容器工作负载。 OpenShift Virtualization 通过 Kubernetes 自定义资源添加新对象至 OpenShift Container Platform 集群 中,以启用虚拟化任务。这些任务包括: 创建和管理 Linux 和 Windows 虚拟机 (VM) 在集群中运行 pod 和虚拟机工作负载 通过各种控制台和 CLI 工具连接至虚拟机 导入和克隆现有虚拟机 管理虚拟机上附加的网络接口控制器和存储磁盘 TEKTON-TASKS-OPERATOR tekton-tasks-operator 部署示例管道,显示 OpenShift Pipelines 用于虚拟机的情况。它还部署额外的 OpenShift Pipeline 任务,允许用户从模板创建虚拟机、复制和修改模板,以及创建数据卷。 表 表 2.6. tekton-tasks-operator components OpenShift Container Platform Overview 选项卡显示资源、使用情况、警报和状态。 例 例 4.2. 概述 概述标签页 标签页 元素 元素 描述 描述 入 入门资 门资源 源卡 快速入 快速入门 门 标题 :了解如何使用逐步说明和任务创建、导入和运行 VirtualMachines。 特性亮点 特性亮点标题:阅读有关主要虚拟化功能的最新信息。 相关的 相关的 operator 标题:安装 Operator,如 Kubernetes0 码力 | 393 页 | 4.53 MB | 1 年前3
VMware Infrastructure 简介存预留给称为 “工资单”的虚拟机。 可动态更改预留的资源。设想在年底,“会计”的工作负载增加,我们可将资源池 “会 计”预留计算能力从 4 GHz 增加到 6 GHz。可对资源池进行动态更改,而不必关闭关 联的虚拟机。为资源池或虚拟机预留的资源不会被立即取走,而是在需要时动态地取 走。 例如,如果为 “会计”部门预留的 4 GHz 计算资源未被使用,则 “工资单”虚拟机在 其高峰时期可使用这些 分配给该资源池。 DRS 监控正在运行 的虚拟机的工作负载以及主机的资源利用率以分配资源。 使用 VMotion 和智能资源调度程序 VMware DRS 自动执行将虚拟机分配给群集内服务 器的任务,以使用该服务器的计算和内存资源,如图 6 中所示。 DRS 完成计算并自动 配对。 如果有新的物理服务器, DRS 会使用 VMotion 重新分布虚拟机以平衡负载。如果物理 服务器因某种原因必须停机, 虚拟机可作为一组文件存储在数据存储的清单中。每个虚拟机内的虚拟磁盘是该目录下 的一个或多个文件。因此,对虚拟磁盘执行操作与对文件执行操作类似 (复制、移动、 备份等)。新虚拟磁盘可 “热添加”至虚拟机,而不用关闭虚拟机。在这种情况下,系 统将在 VMFS 中创建虚拟磁盘文件 (.vmdk),从而为热添加的虚拟磁盘或与虚拟机关联 的现有虚拟磁盘文件提供新的存储。 每个数据存储在物理上都是存储设备上的一个 VMFS0 码力 | 42 页 | 2.41 MB | 1 年前3
使用适用于Android 的VMware View Client回滚桌面 15 从最近使用的桌面上移除快捷方式 16 在移动设备上使用 Microsoft Windows 桌面 16 功能支持表 16 输入设备、键盘和键盘设置 17 手势和导航设备 17 多任务 19 屏幕分辨率和使用外接显示器 20 PCoIP 客户端映像缓存 20 国际化和国际键盘 20 排除 View Client 故障 20 重置桌面 21 卸载 VMware View Client 的系统要求第 6 页, 您可以在许多 Android 设备上安装 View Client。 n 准备适用于 View Client 的 View 连接服务器第 6 页, 管理员必须执行特定的任务以使最终用户可以连接到 View 桌面。 n 使用嵌入式 RSA SecurID 软件令牌第 7 页, 如果您创建 RSA SecurID 软件令牌并将其分发给最终用户,他们只需要输入 PIN 码即可进行身份验证, 建议您使用安全服务器,这样您的设备就不需要 VPN 连接。 适用于 VMware View 的显 示协议 PCoIP 准备适用于 View Client 的 View 连接服务器 管理员必须执行特定的任务以使最终用户可以连接到 View 桌面。 必须先配置特定的池设置和安全设置,最终用户才能连接到 View 连接服务器或安全服务器并访问 View 桌面: n 如果使用安全服务器,VMware 建议您确认使用的是0 码力 | 24 页 | 889.72 KB | 1 年前3
Apache RocketMQ 从入门到实战提交一个文档被接受也同样可以,难的是持续贡献,最终被开源项目的 PMC 认为对该项目 有着突出贡献。 我比较“苦逼”,在带娃方面我的资源只有我老婆,父母在老家无法分身,故下班后我 没有连续的空闲时间专心投入一项任务中,而开源最需要的是精益求精,不只是需要完成功 能,而是要编写结构优良的代码,设计所占据的时间比代码开发时间要多的多,故我个人认 为我暂时不方便走代码贡献这条道路。但我零碎时间还是充足的,故现阶段我会好好利用这 15 > 1.1 RocketMQ 核心概念扫盲篇 上述整个过程无需应用程序干预,由 RocketMQ 完成。大概的做法就是将将原先分配 给自己但这次不属于的队列进行丢弃,新分配的队列则创建新的拉取任务。 3. 消费进度 消费者消费一条消息后需要记录消费的位置,这样在消费端重启的时候,继续从上一次 消费的位点开始进行处理新的消息。在 RocketMQ 中,消息消费位点的存储是以消费组为 单位的。 配置管理器中存在的路由信息,一会向 Nameserver 发送心跳 包,汇报到 Nameserver,另一方面会有一个定时任务,定时存储在 broker 端,具体路 径为${ROCKET_HOME}/store/config/topics.json 中,这样在 Broker 关闭后再重启, 并不会丢失路由信息。 广大读者朋友,跟踪到这一步的时候,大家应该对启用自动创建主题机制时,新主题是 的0 码力 | 165 页 | 12.53 MB | 1 年前3
OpenShift Container Platform 4.6 发行注记Credential Operator(CCO) 现在可以明确配置为使用以下模式进 行操作: Mint、Passthrough 和 Manual。此功能为 CCO 使用云凭证处理集群中用于安装和其他任务的 CredentialsRequest 自定义资源提供了透明性和灵活性。 1.2.13.2. Power 和 和 Z 上的 上的 Cluster Samples Operator Cluster 控。现在,您可以监控 OpenShift Container Platform 中的自己的项目,而无需额外的监控解决方案。使 用这个新功能,可以集中监控核心平台组件和用户定义项目。 使用这个新功能,您可以执行以下任务: 为用户定义的项目启用和配置监控 创建使用您自己的 pod 和服务的指标的记录和警报规则 通过单一、多租户界面访问警报的指标和信息 将用户定义的项目的指标与平台指标进行比较 如需更多信息,请参阅 Operator 领导选举机制使用来自 controller-runtime 的默认 值,因此每 2 秒写入一次 etcd。此发行版本实施了自定义的领导选举机制,该选举机制现在每 90 秒写一次,并在正常关闭时立即释放锁定。(BZ#1858403) Cluster Version Operator Cluster Version Operator 使用 HTTP 而不是 HTTPS 提供指标,并会受到0 码力 | 91 页 | 1.15 MB | 1 年前3
OpenShift Container Platform 4.6 在裸机上安装bootstrap 机器初始化集群 control plane 后,您 要从负载均衡器中删除 bootstrap 机 器。 X 机器配置服 务器 注意 注意 负载均衡器必须配置为,从 API 服务器关闭 /readyz 端点到从池中删除 API 服务 器实例时最多需要 30 秒。在 /readyz 返回错误或处于健康状态后的时间范围内, 端点必须被删除或添加。每 5 秒或 10 秒探测一次,有两个成功请求处于健康状 Process 加密库的 OpenShift Container Platform 集群,不要创建使用 ed25519 算法的密钥。反 之,创建一个使用 rsa 或 ecdsa 算法的密钥。 2. 作为后台任务启动 ssh-agent 进程: 输出示例 出示例 注意 注意 如果您的集群采用 FIPS 模式,则只使用 FIPS 兼容算法来生成 SSH 密钥。密钥必 须是 RSA 或 ECDSA。 3 清单。清单嵌套到 Ignition 配置文件中,稍后用于创建集群。 重要 重要 安装程序生成的 Ignition 配置文件包含在 24 小时后过期的证书,然后在过期时进 行续订。如果在更新证书前关闭集群,且集群在 24 小时后重启,集群会自动恢复 过期的证书。一个例外情况是,您需要手动批准待处理的 node-bootstrapper 证 书签名请求(CSR)来恢复 kubelet 证书。如需更多信息,请参阅从过期的0 码力 | 160 页 | 1.70 MB | 1 年前3
Docker 从入门到实践 0.9.0(2017-12-31)Docker 图标并点击运行。 运行之后,会在右上角菜单栏看到多了一个鲸鱼图标,这个图标表明了 Docker 的运行状态。 第一次点击图标,可能会看到这个安装成功的界面,点击 "Got it!" 可以关闭这个窗口。 macOS 43 以后每次点击鲸鱼图标会弹出操作菜单。 macOS 44 启动终端后,通过命令可以检查安装后的 Docker 版本。 $ docker --version 开始安装。 运行 在 Windows 搜索栏输入 Docker 点击 Docker for Windows 开始运行。 Windows PC 47 Docker CE 启动之后会在 Windows 任务栏出现鲸鱼图标。 等待片刻,点击 Got it 开始使用 Docker CE。 Windows PC 48 镜像加速 鉴于国内网络问题,后续拉取 Docker 镜像十分缓慢,强烈建议安装 Docker "https://registry.docker-cn.com" ] } 编辑完成,点击 Apply 保存后 Docker 服务会重新启动。 macOS 对于使用 macOS 的用户,在任务栏点击 Docker for mac 应用图标 -> Perferences... -> Daemon -> Registry mirrors。在列表中填写加速器地址即可。修改完成之后,点击 Apply0 码力 | 370 页 | 6.73 MB | 1 年前3
共 157 条
- 1
- 2
- 3
- 4
- 5
- 6
- 16













