PyTorch

Parent: ai_keywords

核心定义

PyTorch 是一个基于 Python 的开源深度学习框架，由 Meta AI 团队主导开发。其核心设计采用动态计算图（Define-by-Run）范式，允许在运行时按需构建和修改神经网络结构，为科研与快速迭代提供了极大的灵活性。PyTorch 本质上是一个自动微分引擎，通过反向传播自动计算模型参数的梯度，支撑从线性回归到大型语言模型的各类 AI 系统的训练与推理。

关键技术点

  1. 动态计算图
    与 TensorFlow 1.x 的静态图不同，PyTorch 每次前向传播都会实时生成新的计算图，开发者可以使用原生 Python 控制流（如 if、for）构建模型，极大简化了变长序列、递归网络等场景的实现。

  2. 强大的自动微分（Autograd）
    通过 torch.autograd 模块，框架自动记录张量上的所有操作，并在调用 backward() 时根据链式法则计算梯度。这一机制让研究者无需手动推导导数，大幅降低模型开发门槛。

  3. GPU 加速与张量运算
    PyTorch 提供与 NumPy 高度相似的张量（Tensor）接口，并通过 .cuda() 或 .to(device) 无缝迁移到 NVIDIA GPU，充分利用 CUDA 并行计算能力加速矩阵运算和卷积操作。

  4. 模块化神经网络接口
    torch.nn 模块封装了全连接层、卷积层、循环层、损失函数等标准组件；配合 torch.optim 优化器（SGD、Adam 等），可快速搭建并训练复杂模型。此外，torch.utils.data.DataLoader 实现了高效的数据加载与多进程预处理。

医学/神经科学应用场景

基于 fMRI 的阿尔茨海默病早期诊断（首都医科大学神经病学研究中心）
首都医科大学神经病学团队利用 PyTorch 构建 3D 卷积神经网络，直接处理高维静息态功能磁共振成像（rs-fMRI）数据。框架的动态计算图特性允许研究者灵活拼接不同脑区的时间序列特征，并通过自定义损失函数引入稀疏性约束，自动突出与记忆、执行功能相关的核心脑网络（默认模式网络、额顶网络）。模型在 ADNI 公开数据集上取得了优于传统机器学习的分类准确率（92.3% F1-score），尤其对轻度认知障碍（MCI）期患者敏感，为阿尔茨海默病的前期干预提供可靠的影像学标记。PyTorch 的自动微分机制还支持对模型进行神经科学可解释性分析（如类激活热力图），揭示疾病特异性脑区激活模式，辅助临床医生深挖病理机制。