KMeans是一种简单的聚类算法,将数据集划分为多个簇,K为簇的个数。传统的KMeans算法,有一定的性能瓶颈,通过PS实现的KMeans,在准确率一致的情况下,性能更佳。
每个样本被划分到距离最近的簇。每个簇所有样本的几何中心为这个簇的簇心,样本到簇心的距离为样本到簇的距离。Kmeans算法一般以迭代的方式训练,如下所示:
其中:代表第i个样本,代表与第i个样本距离最近的簇,代表第j个簇的簇心。
"Web-Scale K-Means Clustering"提出一种在朴素KMeans算法基础上改进的KMeans算法,用mini-batch方法训练,每次迭代选择一个mini-batch的样本更新簇心,如下所示:
Angel实现的KMeans算法将K个簇心存储在ParameterServer上,用一个K×N维的矩阵表示,其中:K为簇心的个数,N为数据的维度,即特征的个数。
KMeans on Angel以迭代的方式训练,每次训练以上文提到的mini-batch KMeans算法更新簇心。
- IO参数
- angel.train.data.path:输入数据路径
- ml.feature.num:数据特征个数
- ml.data.type:数据格式,支持"dummy"、"libsvm"
- angel.save.modelPath:训练完成后,模型的保存路径
- angel.log.path:log文件保存路径
- 算法参数
- ml.kmeans.center.num:K值,即簇的个数
- ml.kmeans.sample.ratio.perbath:每次迭代选择mini-batch样本的采样率
- ml.kmeans.c:学习速率参数