下面用R语言中的nnet程序包进行分类算例和回归算例,第一个例子是对河流的化学属性对其中的藻类进行回归预测,第二个例子是著名的鸢尾花算例。
#首先读入程序包并对数据进行清理
library(DMwR)
library(nnet)
data(algae)
algae <- algae[-manyNAs(algae), ]
clean.algae <- knnImputation(algae[,1:12],k=10)
#神经网络还需要对数据进行标准化
norm.data <- scale(clean.algae[,4:12])
#使用nnet命令,参数规定隐层单元个数为10,权重调整速度为0.1,最大迭代次数为1000次,线性输入。
nn <- nnet(a1~., norm.data, size = 10, decay = 0.01,
maxit = 1000, linout = T, trace = F)
#利用模型进行预测
norm.preds <- predict(nn, norm.data)
#绘制预测值与真实值之间的散点图
plot(norm.preds~ scale(clean.algae$a1))
#计算相对误差
(nmse2 <- mean((norm.preds-scale(clean.algae$a1))^2)/
mean((mean( scale(clean.algae$a1))- scale(clean.algae$a1))^2))
再来看看处理分类数据的表现,利用iris数据来判断花的种类
model.nnet <-nnet(Species ~ ., linout = F,size = 10, decay = 0.01,
maxit = 1000,trace = F,data = iris)
#对分类数据预测需要加上type参数
pre.forest=predict(model.nnet, iris,type='class')
table(pre.forest,iris$Species)
pre.forest setosa versicolor virginica setosa 50 0 0 versicolor 0 49 0 virginica 0 1 50
其预测只有一个错误,效果不错
支持向量机SVM是九十年代中期发展起来的新的机器学习技术,与传统的神经网络NN技术不同,SVM是以统计学习理论SLT为基础,NN是以传统统计学理论为基础。传统统计学的前提条件是要有足够多的样本,而统计学习理论是着重研究小样本条件下的统计规律和学习方法的,它为机器学习问题建立了一个很好的理论框架。
实践表明,建立在SLT之上支持向量机不仅结构简单,而且技术性能尤其是推广能力明显提高,能够解决好大量现实中的小样本学习问题,它是一个全新的神经网络技术。
library(e1071)
model.svm <- svm(a1~., norm.data)
preds <- predict(model.svm, norm.data)
plot(preds~ scale(clean.algae$a1))
model.svm <-svm(Species ~ .,data = iris)
pre=predict(model.svm, iris,type='class')
table(pre,iris$Species)
多元自适应回归样条(MARS)
library(earth)
model.mars <- earth(a1~., clean.algae)
preds <- predict(model.mars, clean.algae)
plot(preds~ clean.algae$a1)
(nmse2 <- mean((preds-clean.algae$a1)^2)/
mean((mean( clean.algae$a1)- clean.algae$a1)^2))
model.mars <-earth(Species ~ .,data = iris)
pre=predict(model.mars, iris,type='class')
table(pre,iris$Species)
可以跟你聯絡嗎~因為有很多不懂的地方想跟你請教~謝謝! 小柔 敬上!
回复删除欢迎交流,我的电邮:xccds1977@gmail.com
回复删除CRAN上这个包的参考文档上写着“Description Software for feed-forward neural networks with a single hidden layer”,并不是你说的BP
回复删除