A Day in the Life of a Data Scientist Conquer Machine Learning Lifecycle on Kubernetes Brian Redmond • Cloud Architect @ Microsoft (18 years) • Azure Global Black Belt Team • Live in Pittsburgh, PA Repeatable/consistent • CI/CD • This has worked well for App Dev. Now time for AI/ML • But, must ensure data scientist are not hindered by structure Why Containers, Kubernetes & Helm? • Container • Contains Scalable • Easy to explore hyper-parameters space • Easy to do distributed training But really, Data Scientists shouldn’t have to care about containers, kubernetes and all that stuff • Pachyderm can

com/developer/article/1627330 Step1: 安装 docker-ce # 安装需要的支撑软件 yum install -y yum-utils device-mapper-persistent-data lvm2 # 添加 yum 源 yum-config-manager --add-repo https://download.docker.com/linux/centos/docker-ce docker Step2: 配置&重启 docker 服务 vi /etc/docker/daemon.json { "exec-opts": ["native.cgroupdriver=systemd"], "log-driver": "json-file", "log-opts": { "max-size": "100m" }, configmap vi 3-configmap.yaml kind: ConfigMap apiVersion: v1 metadata: name: traefik-config data: traefik.yaml: |- serversTransport: insecureSkipVerify: true api:

--enable-swagger-ui=true 标志 传递给apiserver，从⽽浏览 /swagger-ui 的启⽤UI的API⽂档。 从Kubernetes 1.4开始，OpenAPI规范也可在 /swagger.json 。当我们从Swagger v1.2转换到OpenAPI（⼜名Swagger v2.0）时，⼀些⼯具（例如：kubectl和swagger-ui）仍在使⽤v1.2规范。OpenAPI规范在Kubernetes /apis/extensions/v1beta1 。 我们选择在API级别，⽽⾮资源级别/字段级别使⽤版本控制，从⽽确保API提供清晰、⼀致的系统资源和⾏为视图，以 及控制对终极API/实验API的访问。JSON和Protobuf序列化schema遵循相同的schema更改准则——以下所有描述都涵 盖了两种格式。 请注意，API版本控制和软件版本控制仅仅是间接相关的关系。 API and release 名称）。当您使⽤Kubernetes API创建对象（直接或通过 kubectl ）时，该API请求必须在请求体中包含该信息（以 JSON格式）。 最常⻅的，可在⼀个.yaml⽂件中向kubectl提供信息。 在进⾏API请求时， kubectl 会将信息转换为 JSON。 如下是⼀个示例 .yaml ⽂件，显示Kubernetes Deployment所需的字段和对象spec： apiVersion:

docker # docker info ★配置docker服务使用systemd去管理（以及信任本地镜像仓库） # vi /etc/docker/daemon.json { "data-root": "/docker_data", "registry-mirrors": [ "h�ps://cof-lee.com:5443" ], "insecure-registries": [ "cof-lee 网桥，不修改iptables规则 # cat > /etc/docker/daemon.json <data-root": "/docker_data", "registry-mirrors": [ "h�ps://cof-lee.com:5443" --image-repository="cof- lee.com:5443/k8s" #指定为集群内部的docker镜像源 如果指定使用集群内部的docker镜像仓库，要提前在docker的daemon.json文件 里配置信任此镜像仓库地址！ # cat >> /etc/hosts <

0 码力 | 126 页 | 4.33 MB | 1 年前

3

cluster • Kubernetes Front-end Control Plane • Provides RESTful interface • Returns state objects as JSON • Provides core control loops for platform • Watches shared state through apiserver • Makes changes Developer Structured Data Metrics Alerts Events VMware vRealize Operations Capacity, Performance and Configuration Management Events Launch in Context Unstructured Data Logs Messages VMware

统一、标准化的应用管理平台？ 简单的“客户端”抽象： DCL (Data Configuration Language) 对 K8s 资源进行抽象实际上就是在操纵 YAML 数据，通过 DCL 来完成相比于 CRD + controller 更简单 CUE • 功能强大：专注于操纵数据，而不是写 代码 • 完全兼容 JSON • 简单直观：schema 和 value 语法一致 完整的

效果最好。在安全方面，基于风险的故障建模可以作为威胁建模和攻击路径分析的有益补充。 12. 大语言模型半结构化自然语言输入 试验 在使用大语言模型的各种应用中，我们在半结构化自然语言输入方面取得了成功。结构化输入，如 JSON 文档， 清晰而精确，为模型提供了所寻求响应类型的指示。以这种方式限制响应有助于缩小问题空间，并且可以产生 更准确的响应，特别是当结构符合领域特定语言（DSL）的语法或模式情况下。我们还发现，将结构化输入与 运行一个 CLI 命令（“devbox shell”）就能将开发环境配置到新 机器上。Devbox 支持 shell 钩子、自定义脚本和生成便于集成 VSCode 的 devcontainer.json。 55. DX DevEx 360 试验 DX DevEx 360 是一款基于调查的工具，它通过聚焦开发人员在日常工作中面临的阻力点，如代码审查流程、代 码质量、深度工作能力等，寻找提高开发人员生产力的关键指标。该调查由 Mock 工具，它能够复制复杂的 API 响应、响应头和状态码，因此受 到了我们团队的重视。它的动态响应生成支持模拟多种场景，允许对 API 交互进行严格测试。Mock 可以描述为 YAML 或 JSON，并通过 CLI、REST API 或 JavaScript 代码进行管理。Mocks Server 的功能包括请求匹配、代 理和录制重现功能，这些功能有助于模拟真实的 API 交互。我们特别喜欢将它与

https://ego.gocn.vip/ micro/chapter2/trace.ht ml 报警 微服务的治理阶段 监控 日志 链路 限流熔断 • 修改sentinel.json • 框架Watch sentinel.json • 限流实时生效 • Sentinel监控 https://ego.gocn.vip/frame /client/sentinel.html 报警 微服务的治理阶段

"mediaType": "application/vnd.docker.distribution.manifest.v2+json" , "config": { "mediaType": "application/vnd.docker.container.image.v1+json" , "digest": "sha256:181b9f9c20bb2f7f485ffd03814055

创建资源对象，使用yaml配置文件一次性创建service和rc kubectl create –f myservice.yaml –f my-rc.yaml 根据目录下所有的.yaml、yml、json文件的定义进行创建 kubectl create –f 2. 查看资源对象 kubectl get pods kubectl get rc，service,node 3