常用机器学习算法小结

1、简介

机器学习是一门多领域交叉学科，该领域的主要研究对象是人工智能。我们总结归纳了常用机器学习算法之间的关系（图1），并对其核心思想进行了概况。

图1 常用机器学习算法

2、算法核心思想

1）KNN

核心：将样本分到离它距离最近的样本所属的类。

2）决策树

核心：一组嵌套的判定规则。

3）贝叶斯分类器

核心：将样本判定为后验概率最大的类。

4）SVM

核心：最大化分量间隔的线性分类器。

5）Logistic回归

核心：直接从样本估计出它属于正负样本的概率。

6）AdaBoost

核心：用多个分类器的线性组合来预测，训练时重点关注错分的样本，准确率高的弱分类器权重大。

7）K-means

核心：把样本分配到离它最近的类中心所属的类，类中心由属于这个类的所有样本确定。

8）EM

核心：基于模型的聚类方法，在概率模型中寻找参数最大似然估计。

9）DBSCAN

核心：定义一个密度，然后把密度相近的且靠的较近的点（密度可达）逐渐合并成一个簇。

10）Apriori

核心：基于两阶段频集思想的递推算法。

11）FP-growth

核心：包括构建FP树和从FP树中挖掘频繁项集两个部分。

（本文部分内容来自https://ixyzero.com/blog/zrchives/4543.html）