Robusta KRR - 一个优化 Kubernetes 资源分配工具

看球不费电
发布于 2023-7-19 11:48
浏览
0收藏

Robusta KRR(Kubernetes Resource Recommender)是一个用于优化 Kubernetes 集群中资源分配的命令行工具,它从 Prometheus 收集 pod 使用数据,并建议 CPU 和内存的 requests 和 limits 值,这可以大大降低成本并提高性能。

Robusta KRR - 一个优化 Kubernetes 资源分配工具-鸿蒙开发者社区

特征

  • 无需代理:Robusta KRR 是一个在本地机器上运行的 CLI 工具,它不需要在你的集群中运行 Pods。
  • Prometheus 集成:使用内置的 Prometheus 查询收集资源使用数据,自定义查询支持也即将推出。
  • 可扩展策略:轻松创建和使用你自己的策略来计算资源推荐。
  • 未来支持:即将推出的版本将支持自定义资源(例如 GPU)和自定义指标。

根据 Sysdig 最近的一项研究​​(https://sysdig.com/blog/millions-wasted-kubernetes/)​​,平均而言,Kubernetes 集群有:

  • 69%未使用的 CPU
  • 18%未使用内存

通过使用 KRR 调整容器大小,你可以平均节省 69% 的云成本。

如果你使用 Robusta SaaS,从 ​​v0.10.15​​ 开始回集成 KRR,你可以查看所有建议(也包括以前的建议),按集群、命名空间或名称过滤和排序它们。

Robusta KRR - 一个优化 Kubernetes 资源分配工具-鸿蒙开发者社区

工作原理

指标收集

Robusta KRR 使用以下 Prometheus 查询来收集使用数据:

  • CPU 使用:​​sum(irate(container_cpu_usage_seconds_total{{namespace="{object.namespace}", pod="{pod}", container="{object.container}"}}[{step}]))​
  • 内存使用:​​sum(container_memory_working_set_bytes{job="kubelet", metrics_path="/metrics/cadvisor", image!="", namespace="{object.namespace}", pod="{pod}", container="{object.container}"})​

算法

默认情况下,KRR 使用一个简单的策略来计算资源推荐。它的计算方法如下(确切的数字可以在 CLI 参数中自定义):

  • 对于 CPU,将请求设置为第 99 个百分位数,并且没有限制。这意味着,在 99%的情况下,您的 CPU 请求是足够的。对于剩余的 1%,我们没有设置限制。这意味着您的 Pod 可以突发并使用节点上可用的任何 CPU - 例如其他 Pod 请求但现在未使用的 CPU。
  • 对于内存,使用过去一周内最大值并添加 5%缓冲区。

安装使用

MacOS/Linux 用户可以使用 brew 进行一键安装:

brew tap robusta-dev/homebrew-krr
brew install krr

安装完成后可以执行下面的命令来检查是否安装成功:

krr --help # 第一次可能会花较长时间

如果想要手动进行安装,则首先确保在你的机器上安装了 Python 3.9 或以上版本。然后 Clone 代码:

git clone https://github.com/robusta-dev/krr
cd krr

安装依赖:

pip install -r requirements.txt

最后,运行下面的命令来运行工具:

python krr.py --help

请注意,使用源代码需要您作为 python 脚本运行,当使用 brew 安装时允许运行 krr。以上所有示例都将运行命令显示为 ​​krr ..​​​.,如果您使用的是手动安装,请将其替换为 ​​python krr.py ...​​。

安装完成后就可以来使用 KRR 工具了,比如可以运行一个简单的策略:

krr simple

如果你只需要特定的命名空间(​​default​​​ 和 ​​ingress-nginx​​):

krr simple -n default -n ingress-nginx

默认情况下,krr 将在当前上下文中运行,如果你想在不同的上下文中运行它:

krr simple -c my-cluster-1 -c my-cluster-2

如果想获得 JSON 格式的输出(需要 ​​--logtostderr​​,这样就不会将日志转到结果文件):

krr simple --logtostderr -f json > result.json

如果你想获得 YAML 格式的输出:

krr simple --logtostderr -f yaml > result.yaml

如果您想查看其他调试日志:

krr simple -v

关于策略设置的更多信息,可以通过以下方式找到:

krr simple --help

默认情况下,KRR 将尝试通过扫描下面的这些标签来自动发现正在运行的 Prometheus:

"app=kube-prometheus-stack-prometheus"
"app=prometheus,component=server"
"app=prometheus-server"
"app=prometheus-operator-prometheus"
"app=prometheus-msteams"
"app=rancher-monitoring-prometheus"
"app=prometheus-prometheus"

如果这些标签都没有找到 Prometheus,则将收到错误消息,那么就必须显式传递 url 了(使用 ​​-p​​ 标志)。

如果你的 prometheus 没有自动连接,我们可以使用 ​​kubectl port-forward​​ 手动转发 Prometheus。

例如有一个名为 ​​kube-prometheus-st-prometheus-0​​ 的 Prometheus Pod,则我们可以下面的命令对其进行端口转发:

kubectl port-forward pod/kube-prometheus-st-prometheus-0 9090

然后,打开另一个终端并在其中运行 ​​krr​​,给出一个显式的 prometheus url:

krr simple -p http://127.0.0.1:9090

此外我们还可以根据自己的需求来创建自定义的策略,比如下面的代码就是创建一个自定义的策略:

# This is an example on how to create your own custom strategy

import pydantic as pd

import robusta_krr
from robusta_krr.api.models import HistoryData, K8sObjectData, ResourceRecommendation, ResourceType, RunResult
from robusta_krr.api.strategies import BaseStrategy, StrategySettings


# Providing description to the settings will make it available in the CLI help
class CustomStrategySettings(StrategySettings):
    param_1: float = pd.Field(99, gt=0, description="First example parameter")
    param_2: float = pd.Field(105_000, gt=0, description="Second example parameter")


class CustomStrategy(BaseStrategy[CustomStrategySettings]):
    """
    A custom strategy that uses the provided parameters for CPU and memory.
    Made only in order to demonstrate how to create a custom strategy.
    """

    def run(self, history_data: HistoryData, object_data: K8sObjectData)
        return {
            ResourceType.CPU: ResourceRecommendation(request=self.settings.param_1, limit=None),
            ResourceType.Memory: ResourceRecommendation(request=self.settings.param_2, limit=self.settings.param_2),
        }


# Running this file will register the strategy and make it available to the CLI
# Run it as `python ./custom_strategy.py my_strategy`
if __name__ == "__main__":
    robusta_krr.run()

GitHub 地址:​​https://github.com/robusta-dev/krr​





文章转载自公众号:k8s技术圈

分类
标签
已于2023-7-19 11:48:27修改
收藏
回复
举报
回复
    相关推荐