Releases: housepower/ckman
Releases · housepower/ckman
v3.2.0
发布文档
新功能
- 登录ckman的用户按权限划分,支持只读用户、普通用户、管理员用户
- 用户角色区分
- 只读用户: 只能查看集群信息,只能调用GET相关请求,但是可以通过查询管理页面执行增删改的SQL
- 普通用户:可以调用除集群运维以外的所有接口,可以通过接口对标进行创建、修改、删除、删除数据、备份数据等;统一门户方式接入的接口默认都是普通用户权限
- 管理员用户: 最高权限用户,有且仅有ckman用户。可以对集群进行创建、增删节点、启停、升级、修改配置等运维操作,与旧版本ckman用户权限一样
- 如何添加用户
- 提供ckmanctl工具对用户进行操作
- 通过
ckmanctl password -p [工作目录]
进入修改页面,校验ckman用户密码后,可以创建用户,修改已有用户的密码
- 用户角色区分
- 普米指标可以指定端口,完善http_sd自动发现功能可用性
- 支持ClickHouse-keeper的部署、适配
- 支持keeper的部署,包括单独部署和内置部署两种方式
- 单独部署,和zookeeper一样,作为单独的进程存在
- 内置部署,和clickhouse-server绑定,没有独立进程
- 推荐使用单独部署
- 支持rpm,tgz等方式的部署
- 通过ckman部署keeper,需要在原有三个安装包的基础上,提供clickhouse-keeper的安装包
- 不支持对keeper进行升级,节点的增删,但是可以修改keeper的配置
- 原有的zookeeper指标对keeper同样有效,但overview页面通过普米暴露的指标无法展示
- 支持keeper的部署,包括单独部署和内置部署两种方式
- 可以对集群填写备注
- 按shardingkey做负载均衡时,可以通过saveTemps, allowLossRate来配置是否保留临时表数据,以及允许的最大丢数据的比率
- 新增ckmanctl工具
- 用户管理支持通过sql配置角色
- default用户密码支持加密
优化项
- 移除zookeeper 通过8080端口获取指标,改为mntr获取(会破坏兼容性,降级会有问题)
- 获取复制表状态改从系统表,而不是直接访问zookeeper
- 移除集群配置中的zooPath
- 修改集群配置时,判断涉及到的修改是否仅需要修改当前集群,尽量减少修改逻辑集群,减小影响范围
- 不允许导入一个关联了使用ckman部署的物理集群的逻辑集群的集群
- 建表时如果仅返回unfinished,认为建表成功,不再超时报错
- zookeeper离线时获取zk指标接口不报错,而是返回offline
- 查询管理页面数据库列表把空数据库也会列举出来
- 保证一个ckman集群内仅有一个节点执行定时任务
- 增加 background_fetches_pool_size 默认值为CPU的1/4, 最小值为16
- ClickHouse安装包路径可以配置,避免使用默认路径将根目录占满
- S3的访问秘钥持久化时加密保存
- 支持使用rocksdb储存元数据,加速集群重启速度(需要新版本ck)
- 支持使用查询缓存(需要新版本ck)
缺陷修复
- tgz方式部署的集群重启集群会失败
- 表指标里分区信息的最小时间和最大时间不准确的问题
兼容性说明
注意3.2.0版本升级后会破坏兼容性,升级前请注意备份集群配置:
- 本地持久化请备份clusters.json
- 数据库持久化请备份tbl_cluster
v3.1.3
Full Changelog: v3.0.8...v3.1.3
v3.1.0
Full Changelog: v3.0.8...v3.1.0
v3.0.8
What's Changed
- perf by @YenchangChan in #290
- rebalance by @YenchangChan in #291
- distributed ddl queue by @YenchangChan in #292
Full Changelog: v3.0.2...v3.0.8
v3.0.2
- 增加节点失败
- 表指标按行数排序不准确
- 备份表时,非default数据库会报错的问题
- 由于数据迁移到HDFS上会产生大量小文件,在HDFS功能彻底生产可用之前,暂时禁用HDFS备份功能
- 部署集群时,可自由选择集群的副本和分片组合,默认全部是副本集群
- 任务列表查看页面,如果任务一直在同一个步骤需要运行很久,也会及时更新任务执行时间
- 查看所有节点都离线的导入的集群时报错的问题
- 当一个集群从健康状态变为离线状态,ckman集群查看页面会卡住的问题
- 在TLS加密功能实现之前,先禁止编辑该配置项
v3.0.0
功能:
- 创建表时,支持指定本地表名,或指定分布式表名(YenchangChan)
- 上线节点时,触发自动同步表schema机制,用于default磁盘意外损坏后数据恢复(YenchangChan)
- 增加创建物化视图的接口(YenchangChan)
- 增加创建projection的接口(YenchangChan)
- 新增表备份功能,支持备份到本地磁盘、HDFS、S3(YenchangChan)
- 新增修改partition by的接口(YenchangChan)
- 新增修改order by的接口(YenchangChan)
- 设置max_concurrent_select_queries为max_concurrent_queries的90%, 预留10%并发用于数据插入(YenchangChan)
- 增加max_execution_time配置项(YenchangChan)
- 设置磁盘时,增加allowed_backup选项, 用于支持backup/restore到disk的指令(YenchangChan)
- 建表以及修改表时支持增加跳数索引(YenchangChan)
- 支持将ckman部署到k8s中(提供yaml文件)(YenchangChan)
- 支持指定ckman的ip地址,这在多网卡环境会非常用帮助(YenchangChan)
- 支持ckman通过http协议连接clickhouse,支持https加密, 支持导入监控华为MRS kerberos认证的clickhouse集群(YenchangChan)
- 支持监控k8s中的clickhouse集群(YenchangChan)
- 修改配置后,如果需要重启clickhouse服务,将滚动重启节点,保证服务可用(YenchangChan)
- 支持修改zookeeper集群信息(YenchangChan)
优化:
- sql执行失败时,打印对应的backtrace(YenchangChan)
- 恢复表只读状态时,每个分片仅执行一次(YenchangChan)
- 不允许将一个导入的集群加入到一个部署的逻辑集群中(YenchangChan)
- 建表时,增加force_create选项,避免创建失败误删已有的表(YenchangChan)
- 优化表指标页面响应速度(YenchangChan)
- 创建表时,仅同步当前表的逻辑表(YenchangChan)
- 使用goembed打包前端资源(YenchangChan)
- 配置文件配置nacos时,namespace_id替换namespace,避免使用时误填导致注册不上(YenchangChan)
- 升级clickhouse-go驱动到v2版本(YenchangChan)
- 复用缓存中的zookeeper连接,而不是每次都重新创建一个(YenchangChan)
- 前端query升级到3.7,修复安全漏洞(YenchangChan)
- 增加节点时,如果同步表结构失败,也返回成功(YenchangChan)
- 物理机群名不可与逻辑集群同名(YenchangChan)
- 接口规范化重构,支持v2路由组(YenchangChan)
修复:
- 指定时间段删除数据时,非fedault数据库不能生效的问题(qih1991)
- 销毁集群时,断开zookeeper连接,防止zookeeper连接泄露(qih15)
- 集群zoopath为空时,建表会失败的问题(YenchangChan)
- 查询页面,decimal数据类型不能正常显示问题(YenchangChan)
- 均衡集群时无法获取分布式表的问题(YenchangChan)
- 持久化策略为MySQL,当数据库编码不是utf-8时部署集群报错的问题(YenchangChan)
- 当ckman设置了ngnix代理,使用x-forwarded-for来转发header,避免IP不匹配的问题(YenchangChan)
- 同步表schema不生效问题(YenchangChan)
v2.3.6
- fix: multiple disks setting issue
- fix: create table will panic when zoopath is nil
- fix: only caculate local disk spac
- fix: log exception when query failed
- fix: decimal type issue in query info
- fix: try to modify limits.conf when deployed with tgz
v2.3.5
fix: make lint
v2.2.11
Full Changelog: v2.2.10...v2.2.11
v2.2.10
- fix checkaccess fialed when deploy cluster