無法刪除image報rbd: error: image still has watchers解決方法
轉自博客園《sisimi的點點滴滴》，原文地址:https://www.cnblogs.com/sisimi/p/7776633.html
解決思路：
在Ceph集羣日常運維中，管理員可能會遇到有的image刪除不了的情況：
1） 由於image下有快照信息，只需要先將快照信息清除，然後再刪除該image即可
2） 該image仍舊被一個客戶端在訪問，具體表現爲該image中有watcher。如果該客戶端異常了，那麼就會出現無法刪除該image的情況
對於第一種情況，很好解決，下面要說的是第二種情況該如何解決。解決之前先科普一下watcher相關的知識：
Ceph中有一個watch/notify機制(粒度是object)，它用來在不同客戶端之間進行消息通知，使得各客戶端之間的狀態保持一致，而每一個進行watch的客戶端，對於Ceph集羣來說都是一個watcher。
解決方法：
1. 查看當前image上的watcher
查看方法一：
[root@node3 ~]# rbd status foo
watcher=192.168.197.157:0/1135656048 client.4172 cookie=1
這種查看方法簡單快捷，值得推薦
查看方法二：
1） 首先找到image的header對象
[root@node3 ~]# rbd info foo
rbd image 'foo':
size 1024 MB in 256 objects
order 22 (4096 kB objects)
block_name_prefix: rbd_data.1041643c9869
format: 2
features: layering
flags:
create_timestamp: Tue Oct 17 10:20:50 2017
由該image的block_name_prefix爲 rbd_data.1041643c9869，可知該image的header對象爲rbd_header.1041643c9869，得到了header對象後，查看watcher信息
2） 查看該image的header對象上的watcher信息
[root@node3 ~]# rados -p rbd listwatchers rbd_header.1041643c9869
watcher=192.168.197.157:0/1135656048 client.4172 cookie=1
2. 刪除image上的watcher
2.1 把該watcher加入黑名單：
[root@node3 ~]# ceph osd blacklist add 192.168.197.157:0/1135656048
blacklisting 192.168.197.157:0/1135656048 until 2017-10-18 12:04:19.103313 (3600 sec)
2.2 查看佔用該image的watcher：
[root@node3 ~]# rados -p rbd listwatchers rbd_header.1041643c9869
[root@node3 ~]#
異常客戶端的watcher信息已經不存在了，之後我們就可以對該image進行刪除操作了
2.3 刪除該image：
[root@node3 ~]# rbd rm foo
Removing image: 100% complete...done.
3. 後續操作
實際上做完上面的已經解決了問題，不過最好還是把加入黑名單的客戶端移除，下面是有關黑名單的相關操作
3.1 查詢黑名單列表：
[root@node3 ~]# ceph osd blacklist ls
listed 1 entries
192.168.197.157:0/1135656048 2017-10-18 12:04:19.103313
3.2 從黑名單移出一個客戶端：
[root@node3 ~]# ceph osd blacklist rm 192.168.197.157:0/1135656048
un-blacklisting 192.168.197.157:0/1135656048
3.3 清空黑名單：
[root@node3 ~]# ceph osd blacklist clear
removed all blacklist entries