概述:

此文章将要描述一种基于MATLAB平台,运用PCA主成分分析方法对图片数据进行降维,运用SVM支持向量机分类器对降维后的图片数据进行分类处理,从而达到人脸识别的目的。


首先要感谢以下几篇文章的作者(后面引用会标识文章标号)

1.Matlab PCA+SVM人脸识别(一)(A),matlab代码大部分都来自于A篇文章。并且其GUI界面值得借鉴,具体可参考Matlab PCA+SVM人脸识别(二)——GUI界面设计(B).


2.人脸识别经典算法一:特征脸方法(Eigenface)(C)特征脸(Eigenface)理论基础-PCA(主成分分析法)(D),C篇对关于特征脸识别方法的步骤进行了详细的讲述,并且在一些关键细节问题中有着讲解,D篇对于PCA降维的原理有深入的剖析,都是非常不错的文章。


3.主成分分析PCA(E)PCA (主成分分析)详解 (写给初学者) 结合matlab(F)E篇列出了具体的数据供大家检验,大家可以根据数据来验证数学过程,简单易懂。F篇与前篇有点相似,对初学者很有帮助。


4.浅谈协方差矩阵(G)此篇文章对于大家了解协方差矩阵以及matlab实现很有作用


准备:

1.编程平台:MATLAB。

    首先你得保证你的机器上安装有matlab,建议较高的版本。


2.libsvm工具箱。

    本人在对第一篇文章中代码关于SVM分类的部分没有运行成功,所以运用了libsvm工具箱对样本训练,测试,并没有运用第一篇文章的代码,如果你能成功可忽略,但建议安装此工具箱,其对SVM分类有很大帮助。如果你一样没有成功,这里推荐一个链接,有关于libsvm工具箱的安装配置的视频。


3.数据ORL人脸库。

    这个数据为已经预处理的数据,格式为pgm,属于Linux格式,windows环境下无法直接打开,可以在matlab中打开,打开方式imshow(imread('图片路径'));数据是400张人脸图片,属于40个人,每个人10张,每张大小112*92像素,数据下载地址在第一篇文章中有,这里也给个链接,第四段两个链接都可下载。


4.主成分分析法PCA。

    主成分分析法是一种降维的方法,上面给出了几个有用的链接,本文只给出代码,以及代码说明,关于原理,大家尽可参照上面几个链接,写得非常详细也非常通俗。


5.SVM支持向量机分类器。

    SVM支持向量机是一个二类分类器,但是本次人脸识别不仅只是分出两类,而是需要分出40个类别。本人以前有过一点机器学习基础,所以在支持向量机原理的理解上没有多大问题,如果读者没有SVM基础,可参考SVM入门(H),以及写的非常给力的帖子,SVM三层境界(I)


    注:也许很多初学者看到这么多的资料,链接都已经晕了,失去了学习的动力。先别灰心,稍后我会把代码以及代码运行的结果和过程展示给大家,当大家看到这些图像的变换的美妙,就会有学习的兴趣。


编程实现:

     以下将要展示的是几个.m文件的代码,.m文件即是能在matlab上面打开运行的代码文件,可以在其中定义函数,如果matlab的当前路径指定在含有这些.m文件的文件夹中,运行时就可以调用这些文件中定义的函数。


首先展示第一个.m文件,便是图片数据读取函数ReadFace.m

function [f_matrix,realclass]=ReadFace(n_persons,flag)
%ORL人脸库。pgm格式的图片。40人,每人10幅图,图像大小为112*92像素。
%每个人有10幅照片,前5幅当作训练集,后5幅当作测试集
%
%输入变量flag:
%   flag是一个标识变量
%   当flag为0时,表示输入为训练集,flag为1时,表示输入为测试集
%
%输入变量n_persons:
%   n_persons标志着你想要识别的人脸个数
%
%输出变量realclass:
%   realclass是一个n_person*5行,1列的列向量。
%   realclass即是数据的标签,无论训练集测试集都进行了标签处理
%
%输出变量f_matrix:
%   f_matrix是一个n_person*5行,112*92列的矩阵
%   每一行便是每一张图片的灰度数据
%   将每一张图片列向量排成一个列向量后转置得到放入f_matrix各行当中

imgrow=112;imgcol=92;
global imgrow;   %载入图片行数
global imgcol;    %载入图片列数
realclass=zeros(n_persons*5,1);
f_matrix=zeros(n_persons*5,imgrow*imgcol);
for i=1:n_persons
    %路径设置
    %函数num2str(i)说明:将数字转化为字符
    facepath=strcat('F:\MATLAB人脸识别\Face\facedata\s',num2str(i),'\');  %路径因不同情况而定
    cachepath=facepath;
    for j=1:5
        facepath=cachepath;
        if flag==0
            %函数strcat(a,b,...)说明:将输入字符a,b...连接成单个字符
            facepath=strcat(facepath,num2str(j));
        else
            facepath=strcat(facepath,num2str(j+5));
        end
        realclass((i-1)*5+j)=i;
        facepath=strcat(facepath,'.pgm');
        %函数imread说明:读取输入路径的图片,将每个像素灰度值保存在输出的矩阵中
        img=imread(facepath);
        f_matrix((i-1)*5+j,:)=img(:)';
    end
end
end



代码当中有着详细的注释,代码与第一篇文章中提供的代码大同小异,根据本人情况修改了一点路径的代码,以及增加了对训练集标签的标识,且增加了注释。现在对代码进行一些说明。

代码第一行有对函数的申明,function []=ReadFace(),中括号为函数的输出,小括号为函数的输入,函数名与文件名一致,一个.m文件当中可以有多个函数申明,但当外面的函数想要调用这个文件中的函数时,只能调用与文件名一致的函数。所以这个文件叫ReadFace.m

何为训练集以及测试集?

    在机器学习方法当中,分为监督学习,非监督学习,强化学习。而SVM支持向量机是一种监督学习的算法。所谓监督学习,就是给予机器一套题目并附上标准答案,让它去做题,自己总结了一套做题的方法(这些方法就是建立的模型),它在根据已经学习好的方法来做一套新的题目,把题目做对,尽可能打高分。

    训练集就是给予机器的一套题目及标准答案,测试集就是给它的一套新题。而训练集有标签和数据之分,标签就是标准答案,标签有着1和0,就表示这些训练集中有两类,像我们的人脸数据有40种人脸,我们就用1到40来表示。数据就是有着多维的表征一个事物的数据,就是给机器的第一套题目。测试集也有数据,就是后面给机器测试的题目,如果测试集原本含有标签,这些标签就可以作为标准给机器前面训练总结的方法(模型)打分,查看准确率。

    在这个人脸库中,每个人有10张图,我们将前5张作为训练集,就有200张图。用一个矩阵来表示这200张图,就形成了一个200*10304的矩阵。后5张图用来当测试集,可以看代码中的说明。

当flag为0时,找出训练集的标签realclass(200*1的矩阵)与数据f_matrix(200*10304的矩阵).

当flag为1时,就是找出测试集来测试分类效果,得出准确率。

SVM训练的目的就是利用训练集找到这么一个分类函数(模型),再在测试集中检测。关于SVM的具体原理查看上面的H和I篇。


--------------------------------分割线---------------------------------------


第二个.m文件的文件名为fastPCA.m,用于将样本进行降维处理,参考上面主成分分析PCA文章D,E,F篇,上面有通俗且具体的阐述。

function [ pcaA,V] = fastPCA( A,k,mA)  
%快速PCA,主成份分析  
%输入:A-样本矩阵,每行是一个样本,列是样本的维数  
%            k-降至k维  
%           mA-图像矩阵f_matrix每一列的均值排成一个行向量,即mean(f_matrix)
%输出:pacA-降维后,训练样本在低维空间中的系数坐标表示 
%            V-主成分分量,即低维空间当中的基  
%
m=size(A,1);  %m为读取图片的张数
Z=(A-repmat(mA,m,1));  %中心化样本矩阵
%一般用中心化的矩阵代替原矩阵。为什么?因为将数据集的均值归零(预处理),也就是只取数据的偏差部分
T=Z*Z';  
[V1,D]=eigs(T,k);%计算T的最大的k个特征值和特征向量  
V=Z'*V1;         %协方差矩阵的特征向量  
%这一点是关键步骤,很可能很多初学者无法理解:
%按理来讲,协方差矩阵的计算公式为(假设上面中心化的Z已经求出):
%V = (Z'*Z)./(size(Z,1)-1)(先不管单位化,V=Z'*Z)(这里是一行为一个样本,一列为一个维数的情况)
%协方差矩阵是N*N的方阵,维数N应该与原图片f_matrix(200*10304)维数相等
%f_matrix中行数200为图片个数,列数10304为维数
%那为什么这里是T=Z*Z',再求T的K个最大特征值和特征向量V1,再用V=Z'*V1来求协方差矩阵特征向量呢?
%因为我们如果求V=Z'*Z这个V就是一个10304*10304的矩阵,MATLAB奔溃了,太复杂
%我们可以这样看P^-1*(Z*Z')*P=S等价于P^-1*(Z')^-1*Z'*Z*Z'*P=S等价于(Z'*P)^-1*(Z'*Z)*(Z'*P)=S
%注:P^-1是P的逆矩阵,(Z')^-1为Z'的逆矩阵,类推,建议大家写在纸上
%最后一个式子可以看出Z'*Z的特征向量矩阵为Z'*P,而Z*Z'的特征向量矩阵为P,即为程序中的V1
%这是一种简便方法,为的就是避免像V=Z'*Z这种维数太高的计算。
%可查看C篇文章步骤4
for i=1:k       %特征向量单位化  
    l=norm(V(:,i));  
    V(:,i)=V(:,i)/l;  
end  
%单位化后的V才能是真正的低维空间的基,需要满足正交化单位化两个条件
%具体原因参考D篇文章
pcaA=Z*V;       %线性变换,降至k维  ,将中心化的矩阵投影到低维空间的基中,V就是低维空间的基
%pcaA为低维空间的坐标表示,即一个图像的判断依据
end

代码与第一篇文章代码没有不同,只是多加了注释,便于大家理解。


下面贴出原图,均值脸以及两者的差值图:

基于MATLAB,运用PCA+SVM的特征脸方法人脸识别_PCA


-------------------------------------------------分割线---------------------------------------------------------


第三个文件为scaling.m文件,其中的代码与原作者代码无二。略加注释。

function [ scaledface] = scaling( faceMat,lowvec,upvec )  
%特征数据规范化  
%即是将同一个样本中的不同维度归一化
%因为因为对于不同的属性,如果不归一化是不具有比较性的,两者不在一个量级上
%输入——faceMat需要进行规范化的图像数据,  
%                lowvec原来图像数据中的最小值  
%                upvec原来图像数据中的最大值  
upnew=1;  
lownew=-1;  
[m,n]=size(faceMat);  
scaledface=zeros(m,n);  
for i=1:m  
    scaledface(i,:)=lownew+(faceMat(i,:)-lowvec)./(upvec-lowvec)*(upnew-lownew);  
    %将图像数据中一个样本的不同维度的值,最小值和最大值规范到-1和1,其他值按比例规范到(-1,1)
end  
end


-----------------------------------------------------分割线-----------------------------------------------------


第四个文件visualize.m中为显示特征脸的代码,比较简单,并附上显示结果。

function visualize( B )  
%显示特征脸(变换空间中的基向量,即单位特征向量)  
%输入:B——每列是个主成分分量,显示的就是低维中每个基组成的图像  
%     k——主成分的维数  
global imgrow;  
global imgcol;  
figure  
img=zeros(imgrow,imgcol);  
for i=1:20  
    img(:)=B(:,i);  
    subplot(4,5,i);  
    imshow(img,[])  
end  
end


因为降至20维,所以其在低维中的基便是这20张特征脸,其他所有的经过了降维的脸都可以由这20张特征脸线性表示,即我们要进行脸部识别时,把选择要识别的脸进行降维处理后,再右乘这些基(特征脸)所构成的矩阵,就能得到这些脸在低维中的线性表示。这些表示就是识别的依据。


特征脸截图:

基于MATLAB,运用PCA+SVM的特征脸方法人脸识别_PCA+SVM_02



-------------------------------------------------分割线---------------------------------------------------------


第五个文件recognition.m中的代码,在A篇文章当中没有,是我自己编写的脸部识别的小程序,比较简单,没有像A篇文章中一样做GUI界面。

function recognition(mA,V,model) 
%函数作用:人脸识别模块,利用已经建好的模型,重新找一个样本进行识别
%输入:
%           mA-均值
%           V-协方差矩阵特征向量
%           model-通过SVM对训练集训练得出的已经建立好的模型
%%
global imgrow;  
global imgcol;  
%%
%弹出输入框,选择要识别的图片
select_person_num=str2double(cell2mat(inputdlg('请输入想要识别的人的编号(总共40个人):')));%总共40个人
select_img_num=str2double(cell2mat(inputdlg('请输入此人图片的编号(总共10张):')));%总共10张图
%%
%对图片信息进行处理,化为1*10304的行向量
disp('读取选择的图片...')  
select_facepath=strcat('F:\MATLAB人脸识别\Face\facedata\s',num2str(select_person_num),'\',num2str(select_img_num),'.pgm');
select_img=imread(select_facepath);
select_matrix=zeros(1,imgrow*imgcol);
select_matrix(1,:)=select_img(:)';
select_matrix=(select_matrix-mA)*V;%PCA降维后的低维表示
%%
%图形归一化
disp('规范化选择的图片...')  
select_matrix = scaling( select_matrix,min(select_matrix),max(select_matrix));  
%%
%测试选择的图片,accuracy只有两个值,100%表示匹配正确,0%表示匹配错误
disp('测试选择的图片...')  
[select_predict_label,accuracy,decision_values]=svmpredict(select_person_num,select_matrix,model);
%%
%显示原有图片和匹配图片进行比较
disp('显示选择的图片...')  
figure(2);
subplot(1,2,1);imshow(select_img);title('你选择的图片');
subplot(1,2,2);
imshow(imread(strcat('F:\MATLAB人脸识别\Face\facedata\s',num2str(select_predict_label),'\',num2str(1),'.pgm')));
title('匹配的图片');


程序运行到此会弹出输入框,让用户选择想要识别的图片,当Accuracy=100%表示识别正确,如果Accuracy=0%表示识别错误。

基于MATLAB,运用PCA+SVM的特征脸方法人脸识别_人脸识别_03          基于MATLAB,运用PCA+SVM的特征脸方法人脸识别_PCA+SVM_04          基于MATLAB,运用PCA+SVM的特征脸方法人脸识别_人脸识别_05


输入编码后选择的图片,以及匹配到的图片对比。

基于MATLAB,运用PCA+SVM的特征脸方法人脸识别_人脸识别_06


-------------------------------------------------分割线---------------------------------------------------------


第六个文件face.m中的代码为主程序。读者想要看到整个效果,只需要将此文件中的程序全部选中按F9即可运行。



注:我的SVM分类器是用libsvm工具箱当中的函数实现的两个关键函数便是svmtrain和svmpredict,核函数选用线性核函数。


以上暂时是初稿,肯定还有很多需要修改的地方,如果读者有什么疑问或是看到什么错误,希望能留言,我会加以请教。大家相互学习,相互进步。


转自:http://blog.csdn.net/yb536/article/details/40586695