监督学习方法可以分为生成方法(generative approach)和判别方法(discriminative approach),学习到的模型对应地可分为生成模型(generative model)和判别模型(discriminative model).生成模型的计算过程为，先根据既有数据学习出联合概率分布\(P(X,Y)\),然后再根据输入特征的分布\(P(X)\)来学习出条件概率分布，表达式为：\[ P(Y|X) = \frac{P(X,Y)}{P(X)} \tag{1} \] 而判别模型则是求出决策函数之后，根据决策函数输出对应的结果，也可直接学习出条件概率分布来预测，但是，判别模型不会去学习数据的联合概率分布.\[ Y = f(X) \tag{2} \]
生成模型描述了给定输入\(X\)产生输出\(Y\)的生成关系，特点：
可以还原出数据的联合概率分布学习收敛速度比较快，即在样本容量增加的时候，模型可以更快地收敛于真实的模型存在隐变量时，仍然可以用生成方法来学习判别模型能够直接用决策函数或者条件概率分布来预测结果，但是不学习数据的联合概率分布，特点：
不能还原数据的联合概率分布学习的准确率比较高能对数据进行各种程度上的抽象，定义特征并使用特征，可以简化问题存在隐变量时，不能使用判别模型生成模型：
朴素贝叶斯法隐马尔可夫模型判别模型：
k近邻法支持向量机感知机决策树逻辑斯谛回归模型最大熵模型提升方法条件随机场转载于:https://www.cnblogs.com/excellent-ship/p/9201139.html
相关资源：数据结构—成绩单生成器