第二章。
最小错误率决策准则为:
\\end\ight.祓楔楔\u3100楔', altimg': w': 160', h': 20'}]
将样本全部化为规范化增广样本向量:
\\begin5\\endy_=2+22=2>0,\\begin&∴w\\begin6\\end\\\end=w\\begin5\\end=(1,2,2,2)^\w^\\begin6\\endy_=22=0,\\begin&∴w\\begin7\\end\\\end=w\\begin6\\end+y_=(1,3,2,1)^\w^\\begin7\\endy_=1+3+21=3>0,\\begin&∴w\\begin8\\end\\\end=w\\begin7\\end=(1,3,2,1)^\w^\\begin8\\endy_=1>0,\\begin&∴w\\begin9\\end\\\end=w\\begin8\\end\\\w^\\begin9\\endy_=2>0,\\begin&∴w\\begin10\\end\\\end=w\\begin9\\end\\\w^\\begin10\\endy_=0,\\begin&∴w\\begin11\\end\\\end=w\\begin10\\end+y_=(2,3,1,2)^\w^\\begin11\\endy_=1>0,\\begin&∴w\\begin12\\end\\\end=w\\begin11\\end\\\w^\\begin12\\endy_=1<0,\\begin&∴w\\begin13\\end\\\end=w\\begin12\\end+y_=(2,3,2,1)^\w^\\begin13\\endy_=4>0,\\begin&∴w\\begin14\\end\\\end=w\\begin13\\end\\\w^\\begin14\\endy_=2>0,\\begin&∴w\\begin15\\end\\\end=w\\begin14\\end\\begin18\\endy_=1>0,\\begin&∴w\\begin19\\end\\\end=w\\begin18\\end=(2,3,2,1)^\w^\\begin19\\endy_=0,\\begin&∴w\\begin20\\end\\\end=w\\begin19\\end+y_=(3,2,2,2)^\w^\\begin20\\endy_=0,\\begin&∴w\\begin21\\end\\\end=w\\begin20\\end+y_=(3,2,3,1)^\w\\begin21\\end满足:w^\\begin21\\endy_>0,\\begin&i=1,2,,8\\\end\\\故此时算法收敛,g\\beginx\\end=w^x=3x_2x_3x_+1=0为决策面方程\\\分界面示意图如下:',altimg':
w': 578', h': 534'}]
最近邻法与k近邻法都是近邻分类的方法,都属于有监督的模式识别非参数方法。它们是把训练集各类中全部样本都作为"代表点",用点与点之间的距离来定义两个样本的近似程度。最近邻法是最简单的近邻分类法,直观来说,对于未知样本x,比较x与已知类别中所有样本的距离,并决策x与离它最近的样本同类。
k近邻法是最近邻法的一个改进,它的基本思路是取未知样本x的k个近邻,看这k个近邻中多数属于哪一类,就把x归为哪一类。最近邻法是k近邻法在k=1时的特例。
有监督学习方法是用已知类别的样本集(也称训练样本集)来训练分类器,以使得训练样本集的分类达到某种最优,并能推广到对新数据的分类。
非监督学习方法指没有训练样本集,所有样本数据类别未知,需要根据样本间的相似性以及样本集的内在规律,对样本集进行分类。
\\beginε_&end\\end\\\begin1\\end.ε_和ε_分别表示e\\beginx_e\\beginx_\\end\\end^和e\\beginx_e\\beginx_\\end\\end^,即x的分量x_和x_的方差\\\表示e\\begin\\beginx_e\\beginx_\\end\\end\\beginx_e\\beginx_\\end\\end\\end,即x_与x_的协方差cov\\beginx_,x_\\end\\\begin2\\end.设φ和λ为∑的特征矢量和特征值,则有:
∑φbeginλi∑\\endφ=0\\\beginλi∑\\end=\\begin\\beginλ1&\\frac\\\frac&λ1\\\end\\end=\\beginλ\\frac\\end\\beginλ\\frac\\end=0\\\的特征值为λ_=frac,λ_frac\\\对应的特征向量分别为φ_=begin\\begin\\frac}\\frac}\\end\\end,φ_begin\\begin\\frac}\\frac}\\end\\end,\\y_=φx和y_=φx为两个主分量\\\begin3\\end.最佳准则为使得x与\\hat的均方误差ε^最小\\\begin4\\end.φ=beginφ_,end,x=φyy=φ^x=φ^x=\\begin\\beginφ_^end\\endx=\\begin\\beginφ_^x\\\x\\\end\\end\\\y_=φx,y_=φx\\\cov\\beginy_,y_\\end=e\\begin\\beginφ_^xe\\beginφ_^x\\end\\end\\beginφ_^xe\\beginφ_^x\\end\\end\\end^e\\begin\\beginxe\\beginx\\end\\end\\beginxe\\beginx\\end\\end^\\endφ_=begin\\begin\\frac}\\frac}\\end\\end^\\begin\\begin1&\\frac\\\frac&1\\\end\\end\\begin\\begin\\frac}\\frac}\\end\\end=0,即:
主分量之间无相关性', altimg': w': 672', h':
913'}]
=',altimg': w': 196', h': 45'}]
模式识别作业答案
第二章。最小错误率决策准则为 将样本全部化为规范化增广样本向量 最近邻法与k近邻法都是近邻分类的方法,都属于有监督的模式识别非参数方法。它们是把训练集各类中全部样本都作为 代表点 用点与点之间的距离来定义两个样本的近似程度。最近邻法是最简单的近邻分类法,直观来说,对于未知样本x,比较x与已知类别中所...
模式识别作业
6.题目 fisher分类和基于核的fisher分类的设计与实现研究。具体内容 1.简述fisher分类和基于核的fisher分类的算法原理 2.举出实例 3.用matlab软件编写程序实现 4.分析实验结果。fisher分类和基于核的fisher分类的设计与实现研究。1 fisher分类和基于核的...
模式识别作业
模式识别课程matlab程序作业。模式识别贝叶斯决策 正常状态细胞p 1 0.9,异常状态细胞p 2 0.1,类条件概率密度分别为p x 1 n 0,1 p x 2 n 0.2,1.5 现有一待识别细胞,其观察值为0.2,用matlab写出程序对该细胞进行分类。编写程序如下 close all cl...