显示标签为“非参数方法”的博文。显示所有博文
显示标签为“非参数方法”的博文。显示所有博文

星期三, 十二月 07, 2011

加性模型(Additive Model)在R中的实现

加性模型是一种非参数模型,如果说二维散点图的平滑是简单线性回归模型的一般化,那么加性模型就是多元回归模型的一般化。加性模型非常具有灵活性,因为它不象参数模型那样需要假设某种函数形式,只要预测变量对响应变量的影响是独立即可,也称为可加和假设。

加性模型的拟合是通过一个迭代过程(向后拟合算法)对每个预测变量进行样条平滑。其算法要在拟合误差和自由度之间进行权衡最终达到最优。在R中可以利用mgcv包中的gam函数实现加性模型,我们仍以trees数据集作为例子,其中Volume为响应变量,Girth和Height为预测变量。

星期一, 十二月 05, 2011

在R语言中进行局部多项式回归拟合(LOESS)

局部多项式回归拟合是对两维散点图进行平滑的常用方法,它结合了传统线性回归的简洁性和非线性回归的灵活性。当要估计某个响应变量值时,先从其预测变量附近取一个数据子集,然后对该子集进行线性回归或二次回归,回归时采用加权最小二乘法,即越靠近估计点的值其权重越大,最后利用得到的局部回归模型来估计响应变量的值。用这种方法进行逐点运算得到整条拟合曲线。

在R语言中进行局部多项式回归拟合是利用loess函数,我们以cars数据集做为例子来看下使用方法。该数据中speed表示行驶速度,dist表示刹车距离。用loess来建立模型时重要的两个参数是span和degree,span表示数据子集的获取范围,取值越大则数据子集越多,曲线越为平滑。degree表示局部回归中的阶数,1表示线性回归,2表示二次回归,也可以取0,此时曲线退化为简单移动平均线。这里我们设span取0.4和0.8,从下图可见取值0.8的蓝色线条较为平滑。

星期日, 十二月 04, 2011

参数检验、非参数检验与置换检验的比较

当我们研究的样本处于良好情况下(近似正态、无离群点、数据量大等),传统的参数检验是很有效的。但是当这些前提条件不再满足时,参数检验就不再有效。此时人们往往求助于非参数检验,非参数检验不再关注数据的值,而只关注数据的秩,这样就抛弃了大量可用的信息。而置换检验采取重复随机抽样的方法,通过对样本再抽样构造经验分布,然后在此基础上生成P值进行推断,达到很好的效果。但要注意的是,如果样本不能很好的代表总体,任何检验方法都是无效的。