降维与特征选择

本资源包含利用主成分分析对输入特征进行降维的源代码,以及主成分回归分析和偏最小二乘法的matlab代码

%% I. 清空环境变量
clear all
clc

%% II. 导入数据
load spectra_data;

%% III. 随机划分训练集与测试集
temp = randperm（size（NIR 1））;
% temp = 1:60;
%%
% 1. 训练集——50个样本
P_train = NIR（temp（1:50）:）;
T_train = octane（temp（1:50）:）;
%%
% 2. 测试集——10个样本
P_test = NIR（temp（51:end）:）;
T_test = octane（temp（51:end）:）;

%% IV. 主成分分析
%%
% 1. 主成分贡献率分析
[PCALoadingsPCAScoresPCAVar] = princomp（NIR）;
figure
percent_explained = 100 * PCAVar / sum（PCAVar）;
pareto（percent_explained）
xlabel（‘主成分‘）
ylabel（‘贡献率（%）‘）
title（‘主成分贡献率‘）

%%
% 2. 第一主成分vs.第二主成分
[PCALoadingsPCAScoresPCAVar] = princomp（P_train）;
figure
plot（PCAScores（:1）PCAScores（:2）‘r+‘）
hold on
[PCALoadings_testPCAScores_testPCAVar_test] = princomp（P_test）;
plot（PCAScores_test（:1）PCAScores_test（:2）‘o‘）
xlabel（‘1st Principal Component‘）
ylabel（‘2nd Principal Component‘）
legend（‘Training Set‘‘Testing Set‘‘location‘‘best‘）

%% V. 主成分回归模型
%%
% 1. 创建模型
k = 4;
betaPCR = regress（T_train-mean（T_train）PCAScores（:1:k））;
betaPCR = PCALoadings（:1:k） * betaPCR;
betaPCR = [mean（T_train）-mean（P_train） * betaPCR;betaPCR];
%%
% 2. 预测拟合
N = size（P_test1）;
T_sim = [ones（N1） P_test] * betaPCR;

%% VI. 结果分析与绘图
%%
% 1. 相对误差error
error = abs（T_sim - T_test） ./ T_test;
%%
% 2. 决定系数R^2
R2 = （N * sum（T_sim .* T_test） - sum（T_sim） * sum（T_test））^2 / （（N * sum（（T_sim）.^2） - （sum（T_sim））^2） * （N * sum（（T_test）.^2） - （sum（T_test））^2））; 
%%
% 3. 结果对比
result = [T_test T_sim error]

%% 
% 4. 绘图
figure
plot（1:NT_test‘b:*‘1:NT_sim‘r-o‘）
legend（‘真实值‘‘预测值‘‘location‘‘best‘）
xlabel（‘预测样本‘）
ylabel（‘辛烷值‘）
string = {‘测试集辛烷值含量预测结果对比‘;[‘R^2=‘ num2str（R2）]};
title（string）

 属性            大小     日期    时间   名称
----------- ---------  ---------- -----  ----
     目录           0  2018-11-27 11:07  Class_13_Code\
     文件        1813  2018-11-27 11:08  Class_13_Code\PCR_Demo.m
     文件        1302  2015-11-22 20:19  Class_13_Code\PLS_Demo.m
     目录           0  2015-11-22 20:19  Class_13_Code\html\
     文件       10397  2015-11-22 20:05  Class_13_Code\html\PCR_Demo.html
     文件        3893  2015-11-22 20:05  Class_13_Code\html\PCR_Demo.png
     文件        4596  2015-11-22 20:05  Class_13_Code\html\PCR_Demo_01.png
     文件        5188  2015-11-22 20:05  Class_13_Code\html\PCR_Demo_02.png
     文件        8450  2015-11-22 20:05  Class_13_Code\html\PCR_Demo_03.png
     文件        8883  2015-11-22 20:19  Class_13_Code\html\PLS_Demo.html
     文件        3217  2015-11-22 20:19  Class_13_Code\html\PLS_Demo.png
     文件        4556  2015-11-22 20:19  Class_13_Code\html\PLS_Demo_01.png
     文件        7451  2015-11-22 20:19  Class_13_Code\html\PLS_Demo_02.png
     文件      171497  2010-10-14 20:24  Class_13_Code\spectra_data.mat