神经网络简明教程——回归和分类任务实验报告

线性回归模型

给定含有 1000 条记录的数据集 mlm.csv ，其中每条记录均包含两个自变量 x , y 和一个因变量 z ，它们之间存在较为明显的线性关系。

任务：请对数据进行三维可视化分析，并训练出良好的线性回归模型。

实验报告

在自行学习了基于神经网络法的多变量线性回归后，本人理解了神经网络法背后的数学原理与 Python 代码实现。通过借鉴教材中的部分代码完成了上述实验。

对数据进行三维可视化分析

使用 numpy ， matplotlib.pyplot ， pathlib ， mpl_toolkits.mplot3d 库读入与实现三维可视化

位于源代码 DataReader 类中

python # 读入样本csv def ReadData(self): train_file = Path(self.train_file_name) if train_file.exists(): data = np.genfromtxt( train_file, delimiter=",", skip_header=1) self.XRaw = data[:, :-1].copy() self.YRaw = data[:, -1].copy().reshape(len(data[:, -1]), 1) self.num_train = self.XRaw.shape[0] self.XTrain = self.XRaw self.YTrain = self.YRaw # 源数据可视化分析 fig = plt.figure(1) ax = fig.add_subplot(111, projection='3d') ax.scatter(self.XRaw[:, 0], self.XRaw[:, 1], self.YRaw, label='Raw Data') ax.set_xlabel('x') ax.set_ylabel('y') ax.set_zlabel('z') plt.title( "It can be seen from the figure that\nthere is an obvious linear relationship between x,y and z") ax.legend() plt.show() else: raise Exception("Cannot find train file!!!")

输出结果：

训练线性回归模型

通过编写与使用教材中的 NeuralNet TrainingHistory DataReader HyperParameters 类，基于标准化样本训练且还原参数值得到该样本在 eta=0.001, max_epoch=3000, batch_size=10 下的训练结果与回归模型：

根据训练结果，随着迭代次数的增加，loss 最终近似收敛于 1.57930，故调参 eps=1.58，得到如下结果

非线性多分类器

鸢尾花数据集 iris.csv 含有 150 条记录，每条记录包含萼片长度 sepal length 、萼片宽度 sepal width 、花瓣长度 petal length 和花瓣宽度 petal width 四个数值型特征，以及它的所属类别 class （可能为 Iris-setosa , Iris-versicolor , Iris-virginica 三者之一）。

任务：请利用该数据集训练出一个良好的非线性分类器。

实验报告

在自行学习了基于多入多出的双层神经网络的非线性多分类后，即便照目前的知识水平与学习时间还不足以完全打开该分类器的黑盒，但本人也尝试着大概了解了非线性多分类及其 Python 代码实现。通过借鉴教材中的部分代码完成了上述实验。

由于任务只提供了训练集，且训练集数目较少，不便于再从其中采样作为测试集，实验极其不规范地使用了训练集源数据作为测试集。

在 ne=3, eta=0.01, bz=10 条件下的测试，训练 10000 轮，在无额外测试集的情况下看较好地完成了分类任务

参考文献

分布式应用系统的研究与开发（武汉理工大学·廖斌）
Text Classification Based on Graph Convolutional Neural Network with Intimacy Matrix and Text Linking（华中师范大学·夏冰）
基于Django的模型参数分析系统的设计与实现（南京大学·府洁）
基于深度学习的可回收垃圾分类系统设计（重庆科技学院·徐猛）
主题网络爬虫的研究与设计（南京理工大学·朱良峰）
基于机器学习模型的论文自动分类模型研究（天津财经大学·贾瑞强）
Text Classification Based on Graph Convolutional Neural Network with Intimacy Matrix and Text Linking（华中师范大学·夏冰）
基于Django的模型参数分析系统的设计与实现（南京大学·府洁）
基于微服务的绩效归因平台的设计与实现（南京大学·刘颖）
推荐系统综合仿真平台评估框架的研究与实现（电子科技大学·施振兴）
基于SSH架构的个人空间交友网站的设计与实现（北京邮电大学·隋昕航）
基于文本挖掘的视频标签生成及视频分类研究（上海交通大学·吴雨希）
基于B/S的考卷搜索和标记系统的设计与实现（华中师范大学·沈亮）
基于深度学习的垃圾分类系统的设计与开发（浙江大学·徐丽）
基于商品名称的电商平台商品自动分类的研究与实现（西南交通大学·黄超）