在深度学习中，神经网络是构建复杂模型的基础。理解它们的基本构成非常重要。本节将介绍神经网络的核心组件，并通过简单的案例来加深理解。
1. 神经元
最基本的构成单位是神经元。一个神经元接收输入，执行加权求和，并通过激活函数产生输出。
1.1 结构
每个神经元具有以下几个重要部分：
- 输入（Input）：来自前一层神经元的信号。
- 权重（Weights）：每个输入值都有一个对应的权重，用于控制输入对输出的重要性。
- 偏置（Bias）：一个额外的参数，帮助模型更好地拟合数据。
- 激活函数（Activation Function）：决定神经元是否被激活，常用的激活函数包括
ReLU、Sigmoid 和 Tanh。
1.2 示例代码
下面是一个简单的 Python 代码示例，展示了如何使用 NumPy 构建一个神经元：
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
| import numpy as np
class Neuron:
def __init__(self, weights, bias):
self.weights = weights
self.bias = bias
def activate(self, inputs):
total_input = np.dot(inputs, self.weights) + self.bias
return self.sigmoid(total_input)
def sigmoid(self, x):
return 1 / (1 + np.exp(-x))
weights = np.array([0.5, -0.6])
bias = 0.1
neuron = Neuron(weights, bias)
inputs = np.array([1.0, 0.5])
output = neuron.activate(inputs)
print(f'Neuron output: {output}')
|
在这个例子中，Neuron 类模拟了一个单一的神经元，根据输入和权重的线性组合计算输出。
2. 层（Layer）
神经元组合成层。最常见的层有：
- 输入层（Input Layer）：接收原始数据，通常不进行任何计算。
- 隐藏层（Hidden Layer）：执行复杂的变换，每个隐藏层包含多个神经元。
- 输出层（Output Layer）：输出最终结果，根据任务的不同可以是分类或回归。
2.1 示例
假设我们要构建一个只有一个隐藏层的简单神经网络：
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
| class Layer:
def __init__(self, num_inputs, num_neurons):
self.weights = np.random.randn(num_neurons, num_inputs)
self.biases = np.random.randn(num_neurons)
def forward(self, inputs):
self.inputs = inputs
self.output = self.sigmoid(np.dot(inputs, self.weights.T) + self.biases)
def sigmoid(self, x):
return 1 / (1 + np.exp(-x))
input_data = np.array([[0.1, 0.2], [0.4, 0.5]])
hidden_layer = Layer(num_inputs=2, num_neurons=3)
hidden_layer.forward(input_data)
print(f'Hidden layer output:\n{hidden_layer.output}')
|
这里，Layer 类表示一个神经网络的层，并通过 forward 方法计算输出。
3. 神经网络
将多个层堆叠在一起形成一个完整的神经网络。这些网络可以用于各种任务，如图像识别、自然语言处理等。
3.1 构建简单神经网络示例
以下是一个简单的三层神经网络构建示例（输入层 + 隐藏层 + 输出层）：
1
2
3
4
5
6
7
8
9
10
11
12
13
| class NeuralNetwork:
def __init__(self):
self.hidden_layer = Layer(num_inputs=2, num_neurons=3)
self.output_layer = Layer(num_inputs=3, num_neurons=1)
def forward(self, inputs):
self.hidden_layer.forward(inputs)
return self.output_layer.forward(self.hidden_layer.output)
nn = NeuralNetwork()
output = nn.forward(input_data)
print(f'Neural network output:\n{output}')
|
在这个例子中，NeuralNetwork 类组合了一个隐藏层和一个输出层，形成一个完整的神经网络。
4. 总结
本文介绍了神经网络的基本构成元素，包含神经元、层和神经网络的基本概念。通过 Python 代码示例，我们展示了如何实现这些组件。掌握这些基本知识将为进一步深入学习深度学习模型打下坚实的基础。
