线性分类器理论基础、Fisher判别算法、Iris数据集实战
目录一、线性分类器理论基础二、Fisher判别1.算法描述2.推导过程3.python代码实现算法4.类间散度矩阵和类内散度矩阵4.1.类内散度矩阵4.2.类间散度矩阵4.3.总体散度矩阵三、Iris数据集实战1.数据可视化1.1 relplot1.2 jointplot1.3 distplot1.4 boxplot1.5 violinplot1.6 pairplot2.构建模型
一、线性分类器理论基础
假设对一模式X已抽取n个特征，表示为：
X=（x1,x2,x3,....xn）T X=（x_1,x_2,x_3,....x_n）^TX=（x1,x2,x3,....xn）T
X是n维空间的一个向量
模式识别问题就是根据模式X的n个特征来判别模式属于ω1 ,ω2 , … , ωm类中的那一类。
例如这个图：三类的分类问题，它们的边界线就是一个判别函数
用判别函数进行模式分类，取决两个因素：
判别函数的几何性质：线性与非线性
判别函数的参数确定：判别函数形式+参数
判别函数包含两类：
一类是线性判别函数：
线性判别函数：线性判别函数是统计模式识别的基本方法之一，简单且容易实现。
广义线性判别函数：
所谓广义线性判别函数就是把非线性判别函数映射到另外一个空间（高维）变成线性判别函数
分段线性判别函数：
另一类是非线性判别函数
这里我们举一个多类问题的例子
先手工推导一下
首先确定判别边界
作图如下：有点丑，大概意思是对的
原创文章 13获赞 10访问量 1597
关注
私信
展开阅读全文
作者：sanyiji
