Kubernetes 早已成为容器编排引擎的事实标准，而随着 Kubernetes 环境的复杂性持续增长，成本也在不断攀升。CNCF 发布的调查报告《Kubernetes 的 FinOps》显示， 68%的受访者表示 Kubernetes 开销正在上涨 ，并且一半的人所在的组织经历了每年超过20%的开销增长。 因此，Kubernetes 成本管理和优化亟需得到系统管理员的重视。本文我们将了解6个优化 Kubernetes 成本的策略和方法。 1、合理调整 Pod 和节点 降低成本最简单的方式之一是管理 Pod 和节点使用的资源。尽管通常的建议是留有足够的机动空间，但 过度配置或允许应用程序无限制地使用资源会带来灾难性的后果。 例如，假设一个Pod由于应用程序的错误而消耗了节点的所有可用内存，不必要地利用了资源，这会导致其他 Pod 完全没有资源可用。 为避免这一情况的发生，用户可以在命名空间级别用 Kubernetes 资源配额和限制区间来限制资源利用率。此外，还可以在容器层面上指定资源请求和限制，强制执行容器可以请求多少资源以及资源的最大限制。 节点的大小取决...

为什么哈啰AI平台需要Faas Al平台当前的痛点 一是运维复杂问题，AI平台有多种不同语言的模型推理服务， 如python、C （tf-serving）、Java等，各自管理上百个不同类型的模型；架构也很复杂，存在大型单体应用、多container应用、小型GPU应用等多种服务组织方式；同时，手动运维有余，自动化工具不足。 二是稳定性问题，成百上千模型集中式部署，存在明显热点问题，在应对一些突发流量的时候，自动伸缩速度也存在问题。同时，模型cpu、gpu资源竞争问题也困扰了我们。 三是IDC成本问题，存在资源利用率低的问题，有很大的提升空间。 Al平台对新架构的诉求 Al平台分为在线服务域（决策、特征）和模型训练域（模型、训练），模型平台是模型训练域的一个子域。 我们希望Al平台在应对突发流量时，可以快速响应，保持稳定的服务；对于低频的模型，可以实现缩容到0；对于快速迭代的模型，可以方便进

随着云技术的发展与普及，以 K8s 为代表的云原生概念越来越被企业所接受，成为企业数字化转型的坚实基础。其所倡导的不可变基础设施、以资源为管理对象、描述性的 API、最终一致性等等理念，已经成为行业对基础设施的统一认知标准。 如何实现微服务应用的快速上云，实现标准化的治理能力，服务网格是一个重要的组成部分，服务网格是一个专门处理服务通讯的基础设施层，它的职责是在复杂的拓扑结构下进行微服务间可靠的请求传送，在实践中，它是一组和应用服务部署在一起的轻量级的网络代理，并且对应用服务透明。 服务网格的产品有非常多，比如 Istio、Linkerd，Open Service Mesh 等等，还有出现类似 ebpf + envoy，proxylessMesh， 在 CNStack 中我们提供了基于 Istio 增强的服务网格能力，构建微服务的统一流量治理标准。 除了治理外，零信任安全也是非常重要的能力，零信任是指无论在网络边界内部还是外部，都没有任何隐含的信任，CNStack 服务网格将身份认证和授权从应用程序代码集成到服务网格中，开箱即用、动态配置更加容易，并且立即生效。 下面通...

简述etcd及其特点 etcd是CoreOS团队发起的开源项目，是一个管理配置信息和服务发现（service discovery）的项目，它的目标是构建一个高可用的分布式键值（key-value）数据库，基于Go语言实现。 特点： 简单：支持REST风格的HTTP+JSON API 安全：支持HTTPS方式的访问 快速：支持并发1k/s的写操作 可靠：支持分布式结构，基于Raft的一致性算法，Raft是一套通过选举主节点来实现分布式系统一致性的算法。 简述etcd适应的场景 etcd基于其优秀的特点，可广泛的应用于以下场景： 服务发现（Service Discovery）：服务发现主要解决在同一个分布式集群中的进程或服务，要如何才能找到对方并建立连接。本质上来说，服务发现就是想要了解集群中是否有进程在监听UDP或TCP端口，并且通过名字就可以查找和