黄石2024-10-09 11:31:51

同学你好。这两种算法没有什么关系，只不过名字中都带了一个k。

KNN是一种监督式学习，主要是用作分类（也可以用作回归）。比方说我现在要研究新发放的贷款是否会违约。当前我的训练集中有诸如公司的信用评级、公司的财务指标等一系列特征，且每个个体我都有对应的label：违约/未违约。现在假设我获得了一个新观测个体，我可以通过某些测量距离的指标（欧几里得距离或曼哈顿距离），来找到特征值距离这一新个体最近的k个训练集个体。比方说k = 5，那就是找到5个最近的训练集个体。如果这5个个体中4个未违约，1个违约，那么我们就可以按少数服从多数的逻辑对新个体进行分类：新个体不会违约。

K-means algorithm是一种非监督式学习，是研究数据结构、对数据进行聚类的一种算法。其做法是，随机在训练集中取k个点作为质心（centroid）的初始值，根据欧几里得距离或曼哈顿距离将每个训练集个体聚类到与其最近的点。接下来，对于这k个聚类，我们可以重新计算其质心（质心其实就是中心的概念，也就是对于聚类中每个特征取平均值得到的点），然后重复上述动作：计算距离、聚类、重新计算质心。直到重新计算的质心不再发生变动，算法就完成了，我们也得到了k个聚类。这种方法可以用在比方说客户的聚类上。