深度学习聚类的综述

点击上方“小白学视觉”，选择加"星标"或“置顶”

重磅干货，第一时间送达

前言

 

现有的深度聚类算法大都由聚类损失与网络损失两部分构成，从两个视角对现有的深度聚类算法进行全面综述与总结，即聚类模型与神经网络模型。

整理丨算法进阶 作者 | 凯鲁嘎吉

链接 | http://www.cnblogs.com/kailugaji/

1. 什么是深度聚类？

经典聚类即数据通过各种表示学习技术以矢量化形式表示为特征。随着数据变得越来越复杂和复杂，浅层（传统）聚类方法已经无法处理高维数据类型。为了解决改问题，深度聚类的概念被提出，即联合优化表示学习和聚类。afaafbf350b6e73f0795f956a5bec297.png

2. 从两个视角看深度聚类

411cb92e867b6cc5b0d2bd05776eed49.png

3. 从聚类模型看深度聚类

3.1 基于K-means的深度聚类

a5969d68a6335ad48942036ea2f143ef.png

参考：聚类——K-means - 凯鲁嘎吉 - 博客园

3.2 基于谱聚类的深度聚类

4c900709ccd010c6c521054a8874b5ac.png

参考：多视图子空间聚类/表示学习(Multi-view Subspace Clustering/Representation Learning) ，关于“On the eigenvectors of p-Laplacian”目标函数的优化问题 - 凯鲁嘎吉 - 博客园

3.3 基于子空间聚类(Subspace Clustering, SC)的深度聚类

7a5feeb3e9d257107b9910f2abc79277.png

参考：深度多视图子空间聚类，多视图子空间聚类/表示学习(Multi-view Subspace Clustering/Representation Learning)，字典更新与K-SVD  - 凯鲁嘎吉 - 博客园

3.4 基于高斯混合模型(Gaussian Mixture Model, GMM)的深度聚类

7cfbec4a1de111f537b46aa25106cc59.png

参考：聚类——GMM，基于图嵌入的高斯混合变分自编码器的深度聚类(Deep Clustering by Gaussian Mixture Variational Autoencoders with Graph Embedding, DGG) - 凯鲁嘎吉 - 博客园

3.5 基于互信息的深度聚类

93876f079c45ea5da416e68c402471c4.png

参考：COMPLETER: 基于对比预测的缺失视图聚类方法，Meta-RL——Decoupling Exploration and Exploitation for Meta-Reinforcement Learning without Sacrifices - 凯鲁嘎吉 - 博客园

3.6 基于KL的深度聚类

b80e0c41543bce879b6acb3dd5577ecd.png

参考：Deep Clustering Algorithms ，关于“Unsupervised Deep Embedding for Clustering Analysis”的优化问题，结构深层聚类网络，具有协同训练的深度嵌入多视图聚类 - 凯鲁嘎吉 -博客园

4. 从神经网络模型看深度聚类

4.1 基于自编码器(AutoEncoder, AE)的深度聚类

7caa97667c3fb11bfa03f920fe0af8a1.png
image

参考：Deep Clustering Algorithms - 凯鲁嘎吉 - 博客园 (DEC, IDEC, DFKM, DCEC)

4.2 基于变分自编码器(Variational AutoEncoder, VAE)的深度聚类

9536dd8b81f569149de9b31c292a349f.png

参考：变分推断与变分自编码器，变分深度嵌入(Variational Deep Embedding, VaDE) ，基于图嵌入的高斯混合变分自编码器的深度聚类(Deep Clustering by Gaussian Mixture Variational Autoencoders with Graph Embedding, DGG)，元学习——Meta-Amortized Variational Inference and Learning，RL——Deep Reinforcement Learning amidst Continual/Lifelong Structured Non-Stationarity - 凯鲁嘎吉 - 博客园

4.3 基于生成对抗网络(Generative Adversarial Network, GAN)的深度聚类

ffea7feb3dcfe9d5dafb48ea0bf63864.png

参考：生成对抗网络(GAN与W-GAN) ，ClusterGAN: 生成对抗网络中的潜在空间聚类，双层优化问题：统一GAN，演员-评论员与元学习方法(Bilevel Optimization Problem unifies GAN, Actor-Critic, and Meta-Learning Methods)  - 凯鲁嘎吉 - 博客园

4.4 基于孪生网络(Siamese Neural Network)/对比学习(Contrastive Learning)的深度聚类

b991eb29d3f54eb795399f6b62857967.png

参考：从对比学习(Contrastive Learning)到对比聚类(Contrastive Clustering)，COMPLETER: 基于对比预测的缺失视图聚类方法 - 凯鲁嘎吉 - 博客园

4.5 基于图神经网络(Graph Neural Network)的深度聚类

4936bc0b2382a9ba420c4c8dc2c68134.png

文末，个人推荐一个超赞的关于深度聚类的库（论文+代码）：https://github.com/zhoushengisnoob/DeepClustering

下载1：OpenCV-Contrib扩展模块中文版教程

在「小白学视觉」公众号后台回复：扩展模块中文教程，即可下载全网第一份OpenCV扩展模块教程中文版，涵盖扩展模块安装、SFM算法、立体视觉、目标跟踪、生物视觉、超分辨率处理等二十多章内容。


下载2：Python视觉实战项目52讲
在「小白学视觉」公众号后台回复：Python视觉实战项目，即可下载包括图像分割、口罩检测、车道线检测、车辆计数、添加眼线、车牌识别、字符识别、情绪检测、文本内容提取、面部识别等31个视觉实战项目，助力快速学校计算机视觉。


下载3：OpenCV实战项目20讲
在「小白学视觉」公众号后台回复：OpenCV实战项目20讲，即可下载含有20个基于OpenCV实现20个实战项目，实现OpenCV学习进阶。


交流群

欢迎加入公众号读者群一起和同行交流，目前有SLAM、三维视觉、传感器、自动驾驶、计算摄影、检测、分割、识别、医学影像、GAN、算法竞赛等微信群（以后会逐渐细分），请扫描下面微信号加群，备注：”昵称+学校/公司+研究方向“，例如：”张三 + 上海交大 + 视觉SLAM“。请按照格式备注，否则不予通过。添加成功后会根据研究方向邀请进入相关微信群。请勿在群内发送广告，否则会请出群，谢谢理解~