RNN网络代码

import copy numpy as np
np.random.seed（0）

# compute sigmoid nonlinearity
def sigmoid（x）:
    output = 1/（1+np.exp（-x））
    return output

# convert output of sigmoid function to its derivative
def sigmoid_output_to_derivative（output）:
    return output*（1-output）


# training dataset generation
int2binary = {}
binary_dim = 8

largest_number = pow（2binary_dim）
binary = np.unpackbits（
    np.array（[range（largest_number）]dtype=np.uint8）.Taxis=1）
for i in range（largest_number）:
    int2binary[i] = binary[i]


# input variables
alpha = 0.1
input_dim = 2
hidden_dim = 16
output_dim = 1


# initialize neural network weights
synapse_0 = 2*np.random.random（（input_dimhidden_dim）） - 1
synapse_1 = 2*np.random.random（（hidden_dimoutput_dim）） - 1
synapse_h = 2*np.r