机器学习课程-温州大学-10机器学习-聚类

• 语言: 中文（简体）
• 格式: .pdf
• 来源: github.com/fengdu78

摘要

本文介绍了聚类的基本概念及其在无监督学习中的应用。聚类是一种将数据自然分组的算法，主要包括K-means聚类、密度聚类和层次聚类等方法。K-means聚类是一种迭代算法，通过最小化簇内平方距离之和来分组。密度聚类和层次聚类则分别基于数据密度和层级结构进行聚类。聚类的评价指标如均一性、完整性、V-measure和ARI用于衡量聚类结果的质量。此外，聚类技术广泛应用于市场细分、金融欺诈检测、医疗应用、客户细分等领域，帮助发现数据中的潜在结构和模式。

AI总结

《机器学习课程-温州大学-10机器学习-聚类》总结

本文档主要围绕机器学习中的聚类算法展开，涵盖无监督学习概述、K-means聚类、密度聚类和层次聚类、聚类评价指标等内容，并结合实际案例说明聚类的应用场景。

### 1. 无监督学习概述
聚类是无监督学习的一种，通过将数据划分为不同的簇（cluster），使簇内数据点尽可能相似，簇间数据点尽可能不同。聚类的主要算法包括K-means、密度聚类和层次聚类。
**主要应用领域**：
- 市场细分：帮助企业了解客户群体特征。
- 文档聚类、图像分割、图像压缩、特征学习等。
- 社会安全：如犯罪易发区识别。
- 金融：如保险欺诈检测。
- 医疗：如疾病数据分析。
- 其他：搜索引擎、推荐系统、药物活性预测等。

### 2. K-means聚类
**算法原理**：
- 将数据划分为K个簇，簇的质心为簇中数据点的算术平均值。
- 目标是最小化簇内数据点与质心的平方距离之和。
**步骤**：
1. 随机初始化质心。
2. 将数据点分配给最近的质心。
3. 更新质心位置并重复，直到收敛或满足终止条件。
**优点**：高效、简单。
**缺点**：需预先指定簇数K，对初始值敏感，不适合非球形数据。

### 3. 密度聚类和层次聚类
- **密度聚类**：基于密度差异划分簇，适合处理噪声数据。
- **层次聚类**：通过层次树（dendrogram）展现数据的层次结构，可形成任意形状的簇。

### 4. 聚类的评价指标
- **均一性（Purity）**：衡量簇内样本的单一性。
- **完整性（Recall）**：衡量同类样本被正确分组的比例。
- **V-measure**：均一性和完整性的加权平均（默认权重为1）。
- **调整兰德指数（Adjusted Rand Index, ARI）**：衡量聚类结果与真实情况的吻合度，取值范围为[-1,1]，值越大越好。

### 5. 聚类案例
1. **市场细分**：通过聚类分析客户行为，帮助企业制定个性化营销策略。
2. **金融**：银行可通过聚类检测欺诈行为，保险公司可识别潜在欺诈保单。
3. **医疗**：医生可用聚类算法识别疾病特征，例如甲状腺疾病数据的分类。

### 总结
本文全面介绍了聚类算法的核心思想、主要算法（K-means、密度聚类、层次聚类）及其评价指标，并通过实际案例展示了聚类在多个领域的广泛应用。