python房价预测

​我们之前提出了三个经典的问题,他们分别是:

  1. 二分类问题(电影评论好坏倾向性判断)
  2. 多分类问题(将新闻按照主题分类)
  3. 回归问题(根据房地产数据估算房地产价格)

不管是二分类问题还是多分类问题,归结起来都是分类问题,而回归问题不一样,他是一种回归问题,回归问题的训练结果不是离散的情况,而是连续的情况,例如预测明天的气温、全年降水量等。

这里我们引入的依旧是 Keras 内置的实际问题和数据集:预测波斯顿的房价。针对波士顿的不同房屋,我们给出对每个房屋我们给出十三个数据指标,包括房间数、犯罪率和高速公路可达性等,他们的取值范围不一致,0-1、1-12 或 1-100 等,训练的目标是一个连续的值——房屋的价格。具体的步骤如下分别说明:

  1. 从数据集中读取数据我们已经很熟悉了,但是我们观察数据会发现,这些数据的取值范围差别太大了,这会导致网络训练过程的失真,因此比较好的办法是我们先对数据进行预处理,预处理的方法是:(原数据 - 平均值) / 标准差,这就相当于对数据进行标准化,标准化后的数据平均值为 0,标准差为 1。mean 和 std 方法分别是求平均值和计算标准差。
  2. 因为我们这一次的数据量只有五百多个,因此我们采用较小的网络,两个隐藏层。这里我们需要注意的一点是数据量少,训练容易产生过拟合,小型网络更适合。
  3. 我们仍然可以用之前的方法进行训练集与反馈集的划分,但问题是由于我们的数据量太小了,因此具体如何划分反馈集过于随机,这会对最后的结果有很大的影响,因此我们采用的是 K 折交叉验证的方法。K 折交叉验证的含义是我们将数据集分为 K 份,每次从这 K 份中选择一份当做验证集,进行 K 次互相独立的训练,最后取 K 次训练的平均值。具体如图:

  1. 我们画出训练 500 轮的图,可以看到最开始的一些数据不是好数据,我们把他们去掉,然后再绘制一张图,如下别是两次绘制的结果,又可以看到之前出现的问题——过拟合了,因此我们调整循环次数为 80 次

  1. 修改后的训练网络是一个可以接受的网络,我们在测试集上进行验证,整体基本可以达到要求。

到此,我们已经分别讨论文章开始提到的三个问题(包括前两篇文章),二分类问题、多分类问题和回归问题,这其中我们也遇到和解决了一些问题,下面总结如下:

  • 神经网络对数据的处理大多都需要转化为对数字的处理,因此对于文本等内容需要进行预处理;
  • 对于数据集的大小、特征的多少和特征值之间的差别等,考虑数据网络的大小,层数、数据的标准化和训练的迭代次数,此类问题往往也需要画图去观察和判断,最后需要根据调整的参数最终得到比较合适的网络模型;
  • 训练迭代次数不够和过拟合都是经常遇到的问题,都是不够好的训练网络,实际问题中需要对两种情况都进行评估和调整;
  • 损失函数和反馈函数的选取,需要考虑实际问题,根据数据的要求,进行选择;

接下来的文章,将进一步针对上面提到的这些问题进行更加系统的分析和研究。

#!/usr/bin/env python3

import time

import numpy as np

from keras import layers

from keras import models

from keras.datasets import boston_housing

def housing():

global train_data

(train_data, train_targets), (test_data, test_targets) = boston_housing.load_data()

# (404, 13)

# print(train_data.shape)

# (102, 13)

# print(test_data.shape)

# [15.2 42.3 50. 21.1 17.7 18.5 11.3 ... 19.4 19.4 29.1]

# print(train_targets)

# 平均值

mean = train_data.mean(axis=0)

train_data -= mean

# 标准差

std = train_data.std(axis=0)

train_data /= std

test_data -= mean

test_data /= std

k = 4

num_val_samples = len(train_data) // k

num_epochs = 500

all_mae_histories = []

for i in range(k):

print('processing fold #', i)

val_data = train_data[i * num_val_samples: (i + 1) * num_val_samples]

val_targets = train_targets[i * num_val_samples: (i + 1) * num_val_samples]

partial_train_data = np.concatenate(

[train_data[:i * num_val_samples],

train_data[(i + 1) * num_val_samples:]],

axis=0)

partial_train_targets = np.concatenate(

[train_targets[:i * num_val_samples],

train_targets[(i + 1) * num_val_samples:]],

axis=0)

model = build_model()

model.fit(train_data, train_targets,

epochs=80, batch_size=16, verbose=0)

test_mse_score, test_mae_score = model.evaluate(test_data, test_targets)

# history = model.fit(partial_train_data, partial_train_targets,

# validation_data=(val_data, val_targets),

# epochs=num_epochs, batch_size=1, verbose=0)

# mae_history = history.history['val_mean_absolute_error']

# all_mae_histories.append(mae_history)

# average_mae_history = [

# np.mean([x[i] for x in all_mae_histories]) for i in range(num_epochs)]

#

# plt.plot(range(1, len(average_mae_history) + 1), average_mae_history)

# plt.xlabel('Epochs')

# plt.ylabel('Validation MAE')

# plt.show()

#

# smooth_mae_history = smooth_curve(average_mae_history[10:])

# plt.plot(range(1, len(smooth_mae_history) + 1), smooth_mae_history)

# plt.xlabel('Epochs')

# plt.ylabel('Validation MAE')

# plt.show()

def build_model():

model = models.Sequential()

model.add(layers.Dense(64, activation='relu',

input_shape=(train_data.shape[1],)))

model.add(layers.Dense(64, activation='relu'))

model.add(layers.Dense(1))

model.compile(optimizer='rmsprop', loss='mse', metrics=['mae'])

return model

def smooth_curve(points, factor=0.9):

smoothed_points = []

for point in points:

if smoothed_points:

previous = smoothed_points[-1]

smoothed_points.append(previous * factor + point * (1 - factor))

else:

smoothed_points.append(point)

return smoothed_points

def smooth_curve(points, factor=0.9):

smoothed_points = []

for point in points:

if smoothed_points:

previous = smoothed_points[-1]

smoothed_points.append(previous * factor + point * (1 - factor))

else:

smoothed_points.append(point)

return smoothed_points

if __name__ == "__main__":

time_start = time.time()

housing()

time_end = time.time()

print('Time Used: ', time_end - time_start)

以上是 python房价预测 的全部内容, 来源链接: utcz.com/a/15047.html

回到顶部