数据节点使用对象存储

创建时间:2025-10-24 最近修改时间:2025-10-24

#1. 数据节点使用对象存储

  • 对象存储接口需支持AWS的S3接口协议

    • 如: 使用百度的对象存储BOS的S3接口参考: https://cloud.baidu.com/doc/BOS/s/Fjwvyq9xo
  • 启用对象存储

    • 配置/usr/local/deepflow/templates/values-custom.yaml
      • deepflow.clickhouse.storageConfig.s3StorageEnabled设置为true
  • ClickHouse对象存储配置

    • 配置/usr/local/deepflow/templates/values-custom.yamldeepflow.clickhouse下的s3StorageConfig
      • endpoint: 配置对象存储的S3 bucket URL。格式: http://<domain>/<bucket>/<path>

      • access_key_id: 对象存储访问密钥ID

      • secret_access_key: 对象存储的密钥ID

      • 配置示例:

        deepflow:
          clickhouse:
            storageConfig:
              s3StorageEnabled: true
            s3StorageConfig:
              endpoint:  http://s3.bj.bcebos.com/bucket-xx/host/
              accessKeyID: xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
              secretAccessKey: xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
        
        1
        2
        3
        4
        5
        6
        7
        8
  • 配置对象存储保存时长

    • 然后在WEB管理页面系统->数据节点->监控数据存储配置->数据源列表->操作,重新设置保存时长.
    • 注意: 该保存时长是本地数据的保存时长,对象存储中数据的保存时长,是本地数据保存时长的3