当前位置：首页 > news >正文

prometheus的remotewrite解析

news 来源：原创 2024/11/15 1:02:06

特性

目的是为了向远端的存储写入数据。

为了提高写入效率，Prometheus在将采集到的samples写入远程存储之前，会先缓存在内存队列中，然后打包发送给远端存储。而这个内存队列的配置参数，对于Prometheus写入远程存储的效率影响较大，

prometheus配置了remote write的目标地址后，它会从WAL读取数据，然后把采样数据写入各分片的内存队列，最后发起向远程目标地址的请求。

WAL是每两小时压缩一次，如果远程写入的目标地址挂了超过两个小时，就会导致这段时间没被发送的数据丢失。如果远程写入的目标地址无响应时间较短（两小时以内），prometheus是会重试的，这种情况不会造成数据丢失。

当一个分片的队列被塞满时，promtheus将阻塞继续从WAL读取数据到任意分片。

在操作过程中，prometheus根据以下条件来持续计算要是用的最佳的分片数：

摄入样本的速率（incoming sample rate）
还未发送的样本数量（number of outstanding samples not sent）
发送每个样本的时间（time taken to send each sample）

在官方给的高可用方案中作用如下：

使用

1 配置

prometheus没有提供远程存储，但提供了远程存储的接口，远程存储只要实现这一接口，即可存储和读取prometheus的数据；

prom端的配置：

remote_write: - url: "https://1.2.3.4/api/monitor/v1/prom/write"

2 remote-write数据协议

prometheus的samples，经过protobuf的序列化，然后再经过snappy压缩，最后通过HTTP发送给remoteStorage;

对应的源代码：

remoteStorage 实现remote-write协议接口

remoteStorage要实现remoteConfigs中定义的HTTP接口，这里主要参考influxdb的实现。

HTTP接口：

// 实现如下的API
Route{
            "prometheus-write", // Prometheus remote write
            "POST", "/api/v1/prom/write", false, true, h.servePromWrite,
        },

实现：与prometheus做的事情相反，先进行sappy的解压缩，然后再protobuf反序列化，得到真实的数据。

样例


package main
 
import (
    "fmt"
    "log"
    "net/http"
 
    "github.com/prometheus/common/model"
 
    "github.com/prometheus/prometheus/storage/remote"
)
 
func main() {
    http.HandleFunc("/receive", func(w http.ResponseWriter, r *http.Request) {
        req, err := remote.DecodeWriteRequest(r.Body)
        if err != nil {
            http.Error(w, err.Error(), http.StatusBadRequest)
            return
        }
 
        for _, ts := range req.Timeseries {
            m := make(model.Metric, len(ts.Labels))
            for _, l := range ts.Labels {
                m[model.LabelName(l.Name)] = model.LabelValue(l.Value)
            }
            fmt.Println(m)
 
            for _, s := range ts.Samples {
                fmt.Printf("\tSample:  %f %d\n", s.Value, s.Timestamp)
            }
 
            for _, e := range ts.Exemplars {
                m := make(model.Metric, len(e.Labels))
                for _, l := range e.Labels {
                    m[model.LabelName(l.Name)] = model.LabelValue(l.Value)
                }
                fmt.Printf("\tExemplar:  %+v %f %d\n", m, e.Value, e.Timestamp)
            }
        }
    })
 
    log.Fatal(http.ListenAndServe(":1234", nil))
}

官方文档：

Remote write tuning | Prometheus

Integrations | Prometheus

参考文档：

prometheus的remote write功能_felix_yujing的博客-CSDN博客_remote write

kubernetes - prometheus remote-write解析(一) -- 使用 - 个人文章 - SegmentFault 思否

Prometheus的remote_write的样例_双天至尊的博客-CSDN博客_prometheus remote_write