Skip to content

Releases: housepower/ckman

v3.2.0

31 Mar 10:58
Compare
Choose a tag to compare

发布文档

新功能

  • 登录ckman的用户按权限划分,支持只读用户、普通用户、管理员用户
    • 用户角色区分
      • 只读用户: 只能查看集群信息,只能调用GET相关请求,但是可以通过查询管理页面执行增删改的SQL
      • 普通用户:可以调用除集群运维以外的所有接口,可以通过接口对标进行创建、修改、删除、删除数据、备份数据等;统一门户方式接入的接口默认都是普通用户权限
      • 管理员用户: 最高权限用户,有且仅有ckman用户。可以对集群进行创建、增删节点、启停、升级、修改配置等运维操作,与旧版本ckman用户权限一样
    • 如何添加用户
      • 提供ckmanctl工具对用户进行操作
      • 通过ckmanctl password -p [工作目录]进入修改页面,校验ckman用户密码后,可以创建用户,修改已有用户的密码
  • 普米指标可以指定端口,完善http_sd自动发现功能可用性
  • 支持ClickHouse-keeper的部署、适配
    • 支持keeper的部署,包括单独部署和内置部署两种方式
      • 单独部署,和zookeeper一样,作为单独的进程存在
      • 内置部署,和clickhouse-server绑定,没有独立进程
      • 推荐使用单独部署
    • 支持rpm,tgz等方式的部署
    • 通过ckman部署keeper,需要在原有三个安装包的基础上,提供clickhouse-keeper的安装包
    • 不支持对keeper进行升级,节点的增删,但是可以修改keeper的配置
    • 原有的zookeeper指标对keeper同样有效,但overview页面通过普米暴露的指标无法展示
  • 可以对集群填写备注
  • 按shardingkey做负载均衡时,可以通过saveTemps, allowLossRate来配置是否保留临时表数据,以及允许的最大丢数据的比率
  • 新增ckmanctl工具
  • 用户管理支持通过sql配置角色
  • default用户密码支持加密

优化项

  • 移除zookeeper 通过8080端口获取指标,改为mntr获取(会破坏兼容性,降级会有问题)
  • 获取复制表状态改从系统表,而不是直接访问zookeeper
  • 移除集群配置中的zooPath
  • 修改集群配置时,判断涉及到的修改是否仅需要修改当前集群,尽量减少修改逻辑集群,减小影响范围
  • 不允许导入一个关联了使用ckman部署的物理集群的逻辑集群的集群
  • 建表时如果仅返回unfinished,认为建表成功,不再超时报错
  • zookeeper离线时获取zk指标接口不报错,而是返回offline
  • 查询管理页面数据库列表把空数据库也会列举出来
  • 保证一个ckman集群内仅有一个节点执行定时任务
  • 增加 background_fetches_pool_size 默认值为CPU的1/4, 最小值为16
  • ClickHouse安装包路径可以配置,避免使用默认路径将根目录占满
  • S3的访问秘钥持久化时加密保存
  • 支持使用rocksdb储存元数据,加速集群重启速度(需要新版本ck)
  • 支持使用查询缓存(需要新版本ck)

缺陷修复

  • tgz方式部署的集群重启集群会失败
  • 表指标里分区信息的最小时间和最大时间不准确的问题

兼容性说明

注意3.2.0版本升级后会破坏兼容性,升级前请注意备份集群配置:

  • 本地持久化请备份clusters.json
  • 数据库持久化请备份tbl_cluster

v3.1.3

08 Jun 09:45
Compare
Choose a tag to compare

Full Changelog: v3.0.8...v3.1.3

v3.1.0

07 Apr 09:30
Compare
Choose a tag to compare

Full Changelog: v3.0.8...v3.1.0

v3.0.8

21 Mar 02:03
378c870
Compare
Choose a tag to compare

What's Changed

Full Changelog: v3.0.2...v3.0.8

v3.0.2

10 Jan 00:03
Compare
Choose a tag to compare
  • 增加节点失败
  • 表指标按行数排序不准确
  • 备份表时,非default数据库会报错的问题
  • 由于数据迁移到HDFS上会产生大量小文件,在HDFS功能彻底生产可用之前,暂时禁用HDFS备份功能
  • 部署集群时,可自由选择集群的副本和分片组合,默认全部是副本集群
  • 任务列表查看页面,如果任务一直在同一个步骤需要运行很久,也会及时更新任务执行时间
  • 查看所有节点都离线的导入的集群时报错的问题
  • 当一个集群从健康状态变为离线状态,ckman集群查看页面会卡住的问题
  • 在TLS加密功能实现之前,先禁止编辑该配置项

v3.0.0

08 Dec 05:59
Compare
Choose a tag to compare

功能:

  1. 创建表时,支持指定本地表名,或指定分布式表名(YenchangChan)
  2. 上线节点时,触发自动同步表schema机制,用于default磁盘意外损坏后数据恢复(YenchangChan)
  3. 增加创建物化视图的接口(YenchangChan)
  4. 增加创建projection的接口(YenchangChan)
  5. 新增表备份功能,支持备份到本地磁盘、HDFS、S3(YenchangChan)
  6. 新增修改partition by的接口(YenchangChan)
  7. 新增修改order by的接口(YenchangChan)
  8. 设置max_concurrent_select_queries为max_concurrent_queries的90%, 预留10%并发用于数据插入(YenchangChan)
  9. 增加max_execution_time配置项(YenchangChan)
  10. 设置磁盘时,增加allowed_backup选项, 用于支持backup/restore到disk的指令(YenchangChan)
  11. 建表以及修改表时支持增加跳数索引(YenchangChan)
  12. 支持将ckman部署到k8s中(提供yaml文件)(YenchangChan)
  13. 支持指定ckman的ip地址,这在多网卡环境会非常用帮助(YenchangChan)
  14. 支持ckman通过http协议连接clickhouse,支持https加密, 支持导入监控华为MRS kerberos认证的clickhouse集群(YenchangChan)
  15. 支持监控k8s中的clickhouse集群(YenchangChan)
  16. 修改配置后,如果需要重启clickhouse服务,将滚动重启节点,保证服务可用(YenchangChan)
  17. 支持修改zookeeper集群信息(YenchangChan)

优化:

  1. sql执行失败时,打印对应的backtrace(YenchangChan)
  2. 恢复表只读状态时,每个分片仅执行一次(YenchangChan)
  3. 不允许将一个导入的集群加入到一个部署的逻辑集群中(YenchangChan)
  4. 建表时,增加force_create选项,避免创建失败误删已有的表(YenchangChan)
  5. 优化表指标页面响应速度(YenchangChan)
  6. 创建表时,仅同步当前表的逻辑表(YenchangChan)
  7. 使用goembed打包前端资源(YenchangChan)
  8. 配置文件配置nacos时,namespace_id替换namespace,避免使用时误填导致注册不上(YenchangChan)
  9. 升级clickhouse-go驱动到v2版本(YenchangChan)
  10. 复用缓存中的zookeeper连接,而不是每次都重新创建一个(YenchangChan)
  11. 前端query升级到3.7,修复安全漏洞(YenchangChan)
  12. 增加节点时,如果同步表结构失败,也返回成功(YenchangChan)
  13. 物理机群名不可与逻辑集群同名(YenchangChan)
  14. 接口规范化重构,支持v2路由组(YenchangChan)

修复:

  1. 指定时间段删除数据时,非fedault数据库不能生效的问题(qih1991)
  2. 销毁集群时,断开zookeeper连接,防止zookeeper连接泄露(qih15)
  3. 集群zoopath为空时,建表会失败的问题(YenchangChan)
  4. 查询页面,decimal数据类型不能正常显示问题(YenchangChan)
  5. 均衡集群时无法获取分布式表的问题(YenchangChan)
  6. 持久化策略为MySQL,当数据库编码不是utf-8时部署集群报错的问题(YenchangChan)
  7. 当ckman设置了ngnix代理,使用x-forwarded-for来转发header,避免IP不匹配的问题(YenchangChan)
  8. 同步表schema不生效问题(YenchangChan)

v2.3.6

06 Mar 07:13
Compare
Choose a tag to compare
  • fix: multiple disks setting issue
  • fix: create table will panic when zoopath is nil
  • fix: only caculate local disk spac
  • fix: log exception when query failed
  • fix: decimal type issue in query info
  • fix: try to modify limits.conf when deployed with tgz

v2.3.5

06 Jan 05:55
Compare
Choose a tag to compare
fix: make lint

v2.2.11

17 Nov 02:38
Compare
Choose a tag to compare

Full Changelog: v2.2.10...v2.2.11

v2.2.10

29 Sep 08:55
Compare
Choose a tag to compare
  • fix checkaccess fialed when deploy cluster