第9章SPSS的线性回归分析.ppt

《第9章SPSS的线性回归分析.ppt》由会员分享，可在线阅读，更多相关《第9章SPSS的线性回归分析.ppt（78页珍藏版）》请在第壹文秘上搜索。

1、2023-11-81统计分析与统计分析与SPSS的应用的应用第九章第九章 SPSS的线性回归分析的线性回归分析2023-11-8第9章 SPSS的线性回归分析2回归分析概述回归分析概述(一一)回归分析理解回归分析理解(1)“回归回归”的含义的含义 galton研究研究父亲身高和儿子身高的关系时的独特发现研究研究父亲身高和儿子身高的关系时的独特发现.(2)回归线的获得方式一回归线的获得方式一:局部平均局部平均 回归曲线上的点给出了相应于每一个回归曲线上的点给出了相应于每一个x(父亲父亲)值的值的y(儿子儿子)平均数的平均数的估计估计(3)回归线的获得方式二回归线的获得方式二:拟和函数拟和函数 使

2、数据拟和于某条曲线使数据拟和于某条曲线;通过若干参数描述该曲线通过若干参数描述该曲线;利用已知数据在一定的统计准则下找出参数的估计值利用已知数据在一定的统计准则下找出参数的估计值(得到回归曲得到回归曲线的近似线的近似);2023-11-8第9章 SPSS的线性回归分析3回归分析概述回归分析概述(二二)回归分析的基本步骤回归分析的基本步骤(1)确定自变量和因变量确定自变量和因变量(父亲身高关于儿子身高的父亲身高关于儿子身高的回归与儿子身回归与儿子身高关于父亲身高的回归是不同的高关于父亲身高的回归是不同的).(2)从样本数据出发确定变量之间的数学关系式从样本数据出发确定变量之间的数学关系式,并对并

3、对回归方程的各个参数进行估计回归方程的各个参数进行估计.(3)对回归方程进行各种统计检验对回归方程进行各种统计检验.(4)利用回归方程进行预测利用回归方程进行预测.2023-11-8第9章 SPSS的线性回归分析4线性回归分析概述线性回归分析概述(三三)参数估计的准则参数估计的准则 目标目标:回归线上的观察值与预测值之间的距离总和达到回归线上的观察值与预测值之间的距离总和达到最小最小 最小二乘法最小二乘法(利用最小二乘法拟和的回归直线与样本数利用最小二乘法拟和的回归直线与样本数据点在垂直方向上的偏离程度最低据点在垂直方向上的偏离程度最低)2023-11-8第9章 SPSS的线性回归分析5一元线

4、性回归分析一元线性回归分析(一一)一元回归方程一元回归方程:y=0+1x 0为常数项；为常数项；1为为y对对x回归系数，即回归系数，即:x每变动一个单位所引每变动一个单位所引起的起的y的平均变动的平均变动(二二)一元回归分析的步骤一元回归分析的步骤 利用样本数据建立回归方程利用样本数据建立回归方程 回归方程的拟和优度检验回归方程的拟和优度检验 回归方程的显著性检验回归方程的显著性检验(t检验和检验和F检验检验)残差分析残差分析 预测预测2023-11-8第9章 SPSS的线性回归分析6一元线性回归方程的检验一元线性回归方程的检验(一一)拟和优度检验:(1)目的目的:检验样本观察点聚集在回归直线

5、周围的密集程度，检验样本观察点聚集在回归直线周围的密集程度，评价回归方程对样本数据点的拟和程度。评价回归方程对样本数据点的拟和程度。(2)思路思路:因为因为:因变量取值的变化受两个因素的影响因变量取值的变化受两个因素的影响 自变量不同取值的影响自变量不同取值的影响 其他因素的影响其他因素的影响 于是于是:因变量总变差因变量总变差=自变量引起的自变量引起的+其他因素引起的其他因素引起的 即即:因变量总变差因变量总变差=回归方程可解释的回归方程可解释的+不可解释的不可解释的 可证明可证明:因变量总离差平方和因变量总离差平方和=回归平方和回归平方和+剩余平方和剩余平方和2023-11-8第9章 SP

6、SS的线性回归分析7一元线性回归方程的检验一元线性回归方程的检验(一一)拟和优度检验:(3)统计量：判定系数统计量：判定系数 R2=SSR/SST=1-SSE/SST.R2体现了回归方程所能解释的因变量变差的比例体现了回归方程所能解释的因变量变差的比例;1-R2则体则体现了因变量总变差中，回归方程所无法解释的比例。现了因变量总变差中，回归方程所无法解释的比例。R2越接近于越接近于1，则说明回归平方和占了因变量总变差平方和，则说明回归平方和占了因变量总变差平方和的绝大部分比例，因变量的变差主要由自变量的不同取值造的绝大部分比例，因变量的变差主要由自变量的不同取值造成，回归方程对样本数据点拟合得好

7、成，回归方程对样本数据点拟合得好 在一元回归中在一元回归中R2=r2;因此，从这个意义上讲，判定系数能够因此，从这个意义上讲，判定系数能够比较好地反映回归直线对样本数据的代表程度和线性相关性。比较好地反映回归直线对样本数据的代表程度和线性相关性。niiniiniiniiyyyyyyyyR121212122)()(1)()(2023-11-8第9章 SPSS的线性回归分析8一元线性回归方程的检验一元线性回归方程的检验(二二)回归方程的显著性检验：F检验检验(1)目的目的:检验自变量与因变量之间的线性关系是否显著检验自变量与因变量之间的线性关系是否显著,是否可用是否可用线性模型来表示线性模型来表示

8、.(2)H0:=0 即即:回归系数与回归系数与0无显著差异无显著差异(3)利用利用F检验检验,构造构造F统计量统计量:F=平均的回归平方和平均的回归平方和/平均的剩余平方和平均的剩余平方和F(1,n-1-1)如果如果F值较大，则说明自变量造成的因变量的线性变动远大于随机因素值较大，则说明自变量造成的因变量的线性变动远大于随机因素对因变量的影响对因变量的影响,自变量于因变量之间的线性关系较显著自变量于因变量之间的线性关系较显著(4)计算计算F统计量的值和统计量的值和相伴概率相伴概率p(5)判断判断 pregression-linear(2)选择一个变量为因变量进入选择一个变量为因变量进入depe

9、ndent框框(3)选择一个变量为自变量进入选择一个变量为自变量进入independent框框(4)enter:所选变量全部进入回归方程所选变量全部进入回归方程(默认方法默认方法)(5)对样本进行筛选对样本进行筛选(selection variable)利用满足一定条件的样本数据进行回归分析利用满足一定条件的样本数据进行回归分析(6)指定作图时各数据点的标志变量指定作图时各数据点的标志变量(case labels)2023-11-8第9章 SPSS的线性回归分析12一元线性回归分析操作一元线性回归分析操作(二二)statistics选项选项(1)基本统计量输出基本统计量输出 Estimates

10、:默认默认.显示回归系数相关统计量显示回归系数相关统计量.confidence intervals:每个非标准化的回归系数每个非标准化的回归系数95%的置信区间的置信区间.Descriptive:各变量均值、标准差和相关系数单侧检各变量均值、标准差和相关系数单侧检验概率验概率.Model fit:默认默认.判定系数、估计标准误差、方差分析判定系数、估计标准误差、方差分析表、容忍度表、容忍度(2)Residual框中的残差分析框中的残差分析 Durbin-waston:D-W值值 casewise diagnostic:异常值异常值(奇异值奇异值)检测检测(输出预测输出预测值及残差和标准化残差值

11、及残差和标准化残差)2023-11-8第9章 SPSS的线性回归分析13一元线性回归分析操作一元线性回归分析操作(三三)plot选项选项:图形分析图形分析.Standardize residual plots:绘制残差序列直绘制残差序列直方图和累计概率图方图和累计概率图,检测残差的正态性检测残差的正态性 绘制指定序列的散点图绘制指定序列的散点图,检测残差的随机性、异检测残差的随机性、异方差性方差性 ZPRED:标准化预测值标准化预测值 ZRESID:标准标准化残差化残差 SRESID:学生学生化残差化残差 produce all partial plot:绘制因变量和所绘制因变量和所有自变量之

12、间的散点图有自变量之间的散点图2023-11-8第9章 SPSS的线性回归分析14线性回归方程的残差分析线性回归方程的残差分析(一一)残差序列的正态性检验残差序列的正态性检验:绘制标准化残差的直方图或累计概率图绘制标准化残差的直方图或累计概率图(二二)残差序列的随机性检验残差序列的随机性检验 绘制残差和预测值的散点图绘制残差和预测值的散点图,应随机分布在经过零的一条直应随机分布在经过零的一条直线上下线上下 2023-11-8第9章 SPSS的线性回归分析15(三三)残差序列独立性检验残差序列独立性检验:残差序列是否存在后期值与前期值相关的现象残差序列是否存在后期值与前期值相关的现象,利用利用D

13、.W(Durbin-Watson)D.W(Durbin-Watson)检验检验d-w=0:d-w=0:残差残差序列存在完全正自相关序列存在完全正自相关;d-w=4:;d-w=4:残差残差序列序列存在完全负自相关存在完全负自相关;0d-w2:;0d-w2:残差残差序列存在某种程度序列存在某种程度的正自相关的正自相关;2d-w4:;2d-w4:残差残差序列存在某种程度的负自序列存在某种程度的负自相关相关;d-w=2:;d-w=2:残差残差序列不存在自相关序列不存在自相关.残差序列不存在自相关残差序列不存在自相关,可以认为回归方程基本概括可以认为回归方程基本概括了因变量的变化了因变量的变化;否则否则

14、,认为可能一些与因变量相关的认为可能一些与因变量相关的因素没有引入回归方程或回归模型不合适或滞后性周因素没有引入回归方程或回归模型不合适或滞后性周期性的影响期性的影响.2023-11-8第9章 SPSS的线性回归分析16线性回归方程的残差分析线性回归方程的残差分析(四四)异常值异常值(casewise或或outliers)诊断诊断 利用标准化残差不仅可以知道观察值比预测值大或利用标准化残差不仅可以知道观察值比预测值大或小小,并且还知道在绝对值上它比大多数残差是大还并且还知道在绝对值上它比大多数残差是大还是小是小.一般标准化残差的绝对值大于一般标准化残差的绝对值大于3,则可认为对则可认为对应的样

15、本点为奇异值应的样本点为奇异值 异常值并不总表现出上述特征异常值并不总表现出上述特征.当剔除某观察值后，当剔除某观察值后，回归方程的标准差显著减小回归方程的标准差显著减小,也可以判定该观察值也可以判定该观察值为异常值为异常值2023-11-8第9章 SPSS的线性回归分析17线性回归方程的预测线性回归方程的预测(一一)点估计点估计y0(二二)区间估计区间估计 x0为xi的均值时,预测区间最小,精度最高.x0越远离均值,预测区间越大,精度越低.普通职工数(x)18001600140012001000800600400200领导(管理)人数(y)30020010002023-11-8第9章 SPS

16、S的线性回归分析18多元线性回归分析多元线性回归分析(一一)多元线性回归方程多元线性回归方程多元回归方程多元回归方程:y=0+1x1+2x2+.+kxk 1、2、k为偏回归系数。为偏回归系数。1表示在其他自变量保持不变的情况下，自变量表示在其他自变量保持不变的情况下，自变量x1变动一个变动一个单位所引起的因变量单位所引起的因变量y的平均变动的平均变动(二二)多元线性回归分析的主要问题多元线性回归分析的主要问题 回归方程的检验回归方程的检验 自变量筛选自变量筛选 多重共线性问题多重共线性问题2023-11-8第9章 SPSS的线性回归分析19多元线性回归方程的检验多元线性回归方程的检验(一一)拟和优度检验:(1)判定系数判定系数R2:R是是y和和xi的复相关系数的复相关系数(或观察值与预测值或观察值与预测值的的相关系数相关系数),测定测定了因变量了因变量y与所有自变量全体之间线性相关程度与所有自变量全体之间线性相关程度(2)调整的调整的R2:考虑的是平均的剩余平方和考虑的是平均的剩余平方和,克服了因自变量增加而造成克服了因自变量增加而造成R2也也增大的弱点增大的弱点 在某个自变量引入回归