神经网络模型python模板

NeuralNetworkModel 开发环境 python36 tensorflow1.x 模块介绍 产生数据 create_data.py 计算前向传播 forward.py 训练过程 backward.py <-----------------程序入口 学习到的函数 test.py

# coding:utf-8
import tensorflow as tf
import numpy as np
import matplotlib.pyplot as plt
import create_data as cd
import forward as fd

# 训练轮数
STEP = 40000
# 训练神经网络时，数据的批大小
BATCH_SIZE = 30
# 学习采用用指数衰减的方法，初始速率为LEARNING_RATE_base，衰减率为LEARNING_RATE_DECAY
LEARNING_RATE_base = 0.1
LEARNING_RATE_DECAY = 0.9
# L2正则化的惩罚系数
REGULARIZER = 0.01


def backward（）:
    x = tf.placeholder（tf.float32 shape=（None 2））
    y_ = tf.placeholder（tf.float32 shape=（None 1））

    # 读样本
    X Y_ Y_c = cd.generateds（）
    # 计算前向传播的结果
    y = fd.forward（x REGULARIZER）

    # 定义损失函数
    loss_mes = tf.reduce_mean（tf.square（y - y_））
    loss_total = loss_mes + tf.add_n（tf.get_collection（‘losses‘））

    # 定义指数衰减学习率
    global_step = tf.Variable（0 trainable=False）
    learning_rate = tf.train.exponential_decay（
        LEARNING_RATE_base global_step
        300 / BATCH_SIZE
        LEARNING_RATE_DECAY
        staircase=True）

    # 定义训练步骤
    train_step = tf.train.AdadeltaOptimizer（learning_rate）.minimize（loss_total）

    with tf.Session（） as sess:
        init_op = tf.global_variables_initializer（）
        sess.run（init_op）

        for i in range（STEP）:
            start = （i * BATCH_SIZE） % 300
            end = start + BATCH_SIZE
            sess.run（train_step feed_dict={x: X[start:end] y_: Y_[start:end]}）

            if i % 2000 == 0:
                loss = sess.run（loss_mes feed_dict={x: X y_: Y_}）
                print（“after %d steps loss is : %f“ % （i loss））

        # 产生网格坐标
        xx yy = np.mgrid[-3:3:.01 -3:3:.01]
        grid = np.c_[xx.ravel（） yy.ravel（）]
        predict = sess.run（y feed_dict={x: grid}）
        predict = predict.reshape（xx.shape）

    # 绘制图像
    plt.scatter（X[: 0] X[: 1] c=np.squeeze（Y_c））
    plt.contour（xx yy predict levels=[0.5]）
    plt.show（）


if __name__ == ‘__main__‘:
    backward（）

 属性            大小     日期    时间   名称
----------- ---------  ---------- -----  ----
     目录           0  2018-08-19 10:37  NeuralNetworkModel-master\
     文件          42  2018-08-19 10:37  NeuralNetworkModel-master\.gitignore
     文件         248  2018-08-19 10:37  NeuralNetworkModel-master\README.md
     文件        2038  2018-08-19 10:37  NeuralNetworkModel-master\backward.py
     文件         614  2018-08-19 10:37  NeuralNetworkModel-master\create_data.py
     文件         789  2018-08-19 10:37  NeuralNetworkModel-master\forward.py
     文件         572  2018-08-19 10:37  NeuralNetworkModel-master\test.py