6：循环神经网络理论

import numpy as np

class SimpleRNN:
    def __init__(self, input_size, hidden_size, output_size):
        """
        初始化RNN参数
        input_size: 输入特征维度
        hidden_size: 隐藏状态维度
        output_size: 输出维度
        """
        # TODO: 初始化权重矩阵和偏置
        # 提示：考虑Xavier或He初始化
        pass

    def forward(self, inputs):
        """
        前向传播
        inputs: shape (seq_len, batch_size, input_size)
        return: outputs, hidden_states
        """
        # TODO: 实现前向传播
        # 返回所有时间步的输出和隐藏状态
        pass

    def backward(self, d_outputs):
        """
        反向传播 - 通过时间反向传播(BPTT)
        d_outputs: 输出层的梯度
        return: 各参数的梯度
        """
        # TODO: 实现BPTT算法
        # 计算所有参数的梯度
        pass

    def update_parameters(self, learning_rate):
        """
        参数更新
        """
        # TODO: 使用计算得到的梯度更新参数
        pass

class LSTMCell:
    def __init__(self, input_size, hidden_size):
        """
        LSTM单元初始化
        """
        # TODO: 初始化LSTM的四个门的参数
        # 遗忘门、输入门、候选记忆、输出门
        # 每个门都需要权重矩阵和偏置：
        # - 输入权重: [input_size, hidden_size]
        # - 隐藏状态权重: [hidden_size, hidden_size]
        # - 偏置: [hidden_size]
        pass

    def forward(self, input_t, hidden_state, cell_state):
        """
        LSTM单元前向传播
        input_t: 当前时间步输入 [batch_size, input_size]
        hidden_state: 前一时间步隐藏状态 [batch_size, hidden_size]
        cell_state: 前一时间步细胞状态 [batch_size, hidden_size]
        return: new_hidden_state, new_cell_state
        """
        # TODO: 实现LSTM单元的前向传播
        # 1. 计算遗忘门、输入门、输出门的值（sigmoid激活）
        # 2. 计算候选记忆元状态（tanh激活）
        # 3. 更新记忆元状态
        # 4. 计算输出隐藏状态
        pass

def generate_sequence_data(seq_type='fibonacci', length=1000):
    """
    生成序列数据
    """
    # TODO: 实现序列数据生成
    pass

def train_rnn_on_sequence():
    """
    训练RNN进行序列预测
    """
    # TODO: 实现完整的训练流程
    # 1. 数据准备
    # 2. 模型训练
    # 3. 性能评估
    # 4. 结果可视化
    pass