使用Python实现一个简单的神经网络

在现代人工智能领域，神经网络是深度学习的核心。它通过模拟人脑的工作方式，能够从数据中自动提取特征并进行预测。本文将介绍如何使用 Python 实现一个简单的全连接神经网络，并用它来解决一个基本的分类问题。

我们将使用 numpy 来进行数值计算，并手动实现前向传播、损失函数和反向传播过程，以帮助读者更好地理解神经网络的基本原理。

---

1. 环境准备

首先，确保你已经安装了 Python 和 numpy 库。如果没有安装 numpy，可以使用 pip 安装：

pip install numpy

---

2. 神经网络结构设计

我们设计一个简单的三层神经网络：输入层 -> 隐藏层 -> 输出层。

输入层：2个节点（例如二维数据点）隐藏层：3个节点，使用ReLU激活函数输出层：1个节点，使用Sigmoid激活函数（用于二分类）

---

3. 导入必要的库

import numpy as np

---

4. 定义激活函数及其导数

def sigmoid(x):    return 1 / (1 + np.exp(-x))def sigmoid_derivative(x):    return x * (1 - x)def relu(x):    return np.maximum(0, x)def relu_derivative(x):    return (x > 0).astype(float)

---

5. 初始化网络参数

# 输入维度input_dim = 2# 隐藏层维度hidden_dim = 3# 输出维度output_dim = 1# 初始化权重和偏置np.random.seed(42)W1 = np.random.randn(input_dim, hidden_dim)b1 = np.zeros((1, hidden_dim))W2 = np.random.randn(hidden_dim, output_dim)b2 = np.zeros((1, output_dim))

---

6. 前向传播函数

def forward(X, W1, b1, W2, b2):    # 第一层    z1 = X.dot(W1) + b1    a1 = relu(z1)    # 第二层    z2 = a1.dot(W2) + b2    a2 = sigmoid(z2)    return z1, a1, z2, a2

---

7. 损失函数（均方误差）

def compute_loss(y_true, y_pred):    m = y_true.shape[0]    loss = np.sum((y_true - y_pred)**2) / m    return loss

---

8. 反向传播与参数更新

def backward(X, y, z1, a1, z2, a2, W1, W2, learning_rate=0.01):    m = X.shape[0]    # 输出层到隐藏层的梯度    dz2 = (a2 - y) * sigmoid_derivative(a2)    dW2 = a1.T.dot(dz2) / m    db2 = np.sum(dz2, axis=0, keepdims=True) / m    # 隐藏层到输入层的梯度    da1 = dz2.dot(W2.T)    dz1 = da1 * relu_derivative(z1)    dW1 = X.T.dot(dz1) / m    db1 = np.sum(dz1, axis=0, keepdims=True) / m    # 更新参数    W2 -= learning_rate * dW2    b2 -= learning_rate * db2    W1 -= learning_rate * dW1    b1 -= learning_rate * db1    return W1, b1, W2, b2

---

9. 训练模型

我们使用一个简单的数据集进行训练，比如 XOR 问题：

# 构造数据集X = np.array([[0, 0],              [0, 1],              [1, 0],              [1, 1]])y = np.array([[0],              [1],              [1],              [0]])# 超参数epochs = 10000learning_rate = 0.1# 开始训练for epoch in range(epochs):    # 前向传播    z1, a1, z2, a2 = forward(X, W1, b1, W2, b2)    # 计算损失    loss = compute_loss(y, a2)    # 每1000次输出一次损失    if epoch % 1000 == 0:        print(f"Epoch {epoch}, Loss: {loss:.6f}")    # 反向传播    W1, b1, W2, b2 = backward(X, y, z1, a1, z2, a2, W1, W2, learning_rate)

---

10. 测试模型

训练完成后，我们可以测试模型对输入的预测能力：

# 测试模型_, _, _, predictions = forward(X, W1, b1, W2, b2)print("预测结果：")print(np.round(predictions))

输出应为：

预测结果：[[0.] [1.] [1.] [0.]]

这表明我们的神经网络成功解决了 XOR 分类问题。

---

11. 总结

本文通过手动实现一个简单的三层神经网络，介绍了神经网络的基本工作原理，包括：

激活函数的设计前向传播的实现损失函数的选择反向传播算法的推导与实现参数更新方法

虽然这个网络非常简单，但它展示了构建更复杂网络的基础知识。接下来你可以尝试：

添加更多的隐藏层使用不同的激活函数（如 tanh、Leaky ReLU）引入正则化防止过拟合使用框架（如 PyTorch 或 TensorFlow）简化开发流程

希望这篇文章对你理解神经网络有所帮助！

---

如果你喜欢这样的技术文章，欢迎继续关注我的内容更新！