PyTorch与TensorFlow实现PINN：一维热传导方程实战教程

各位读者朋友大家好。上一篇我们完成了 PINN 入门 30 讲系列课程的基础理论部分很多同学留言反馈说理论看懂了但一打开编辑器就不知道从哪里开始写代码。今天这篇内容就帮大家彻底解决这个问题。本文将围绕物理信息神经网络PINN中两个最常用的深度学习框架——PyTorch 与 TensorFlow展开一份从框架选型、环境搭建到实战跑通的完整教程。无论你是第一次接触 PINN还是已经在用传统数值方法做仿真计算只要按照本文的步骤走都能在本地跑通属于自己的 PINN 求解器。读完本文你将掌握PINN 到底依赖深度学习框架的哪些能力PyTorch 与 TensorFlow 在 PINN 开发上的核心差异如何在 Windows/Linux 环境下安装两个框架及 CUDA 加速支持使用两种框架分别实现一个 PINN 求解一维热传导方程的完整案例训练过程中的高频报错与排查思路框架选择的最佳实践与后续学习路线。接下来我们进入正题。1. 为什么 PINN 需要深度学习框架1.1 PINN 的本质是什么物理信息神经网络通常被称为 PINNPhysics-Informed Neural Network它的核心思路并不复杂用一个神经网络去逼近偏微分方程PDE的解同时把物理方程本身作为损失函数的一部分加入到训练过程中。传统的偏微分方程数值解法比如有限差分法、有限元法需要我们在网格点上进行离散化求解。而 PINN 的做法是把空间坐标和时间坐标作为神经网络的输入网络输出是待求解的物理量。训练时不仅让网络拟合初始条件和边界条件还要求网络在方程内部点的输出满足物理方程的残差接近零。这样做的直接优势是不需要生成高质量网格可以处理反问题也能在数据稀疏的场景下进行求解。1.2 深度学习框架在 PINN 中扮演什么角色PINN 本质上是一个神经网络训练问题它极度依赖深度学习框架提供的几个能力第一自动微分Autograd。PINN 的损失函数中包含方程残差项即对网络输出求输入坐标的导数例如 d u / d x、d²u / dx²。深度学习框架的自动微分机制可以精确计算这些高阶导数这是 PINN 能在现代框架中快速实现的关键。第二梯度优化。训练神经网络依赖反向传播算法框架自带 Adam、L-BFGS 等优化器我们可以直接调用不需要自己手写梯度下降。第三GPU 加速。PINN 的输入通常需要在定义域内进行大量采样整体计算量不小。框架的 GPU 支持可以把张量运算搬到显卡上执行训练效率提升非常明显。第四模块化搭建。无论是全连接网络还是注意力机制深度学习框架都提供了高层 API可以方便地组装网络结构。一句话总结深度学习框架本身不负责物理知识但它是 PINN 实现自动微分、梯度传播和高效训练的基础设施。选对框架、装对环境PINN 的学习成本会大大降低。2. PyTorch 与 TensorFlow如何选择适合 PINN 的框架2.1 两大框架的现状与趋势PyTorch 由 Meta 公司开发并维护是目前学术界使用最广泛的深度学习框架之一。它的动态计算图机制使得调试非常直观代码风格也更接近 Python 原生逻辑入门门槛相对低。TensorFlow 由 Google 开发在工业界和部署场景中有着非常完善的生态。TensorFlow 2.x 版本之后也默认开启动态执行模式易用性和 PyTorch 之间的差距已经大大缩小。从 2024 年的热度来看PyTorch 在论文复现、科研项目中的占比越来越高TensorFlow 在移动端、服务端部署和某些特定工业场景中依然保持优势。对于 PINN 这个偏向科研和仿真计算的领域来说两个框架都有成熟的案例。2.2 两个框架在 PINN 实现上的核心差异点自动微分接口不同。PyTorch 使用 torch.autograd.grad 计算任意阶导数TensorFlow 则使用 tf.GradientTape 记录前向传播过程再通过 tape.gradient 求导。两者的写法风格差异明显下面给出对比示例。先看 PyTorch 中的二阶导数计算import torch x torch.tensor([2.0], requires_gradTrue) u x ** 3 # 一阶导数 du/dx u_x torch.autograd.grad(u, x, create_graphTrue, retain_graphTrue)[0] # 二阶导数 d2u/dx2 u_xx torch.autograd.grad(u_x, x, create_graphTrue, retain_graphTrue)[0] print(u_x.item(), u_xx.item()) # 输出 12.0 12.0再看 TensorFlow 中的同样计算import tensorflow as tf x tf.Variable([2.0]) with tf.GradientTape(persistentTrue) as tape: tape.watch(x) u x ** 3 u_x tape.gradient(u, x) u_xx tape.gradient(u_x, x) print(u_x.numpy(), u_xx.numpy()) # 输出 [12.] [12.]可以看出PyTorch 通过 requires_grad 声明需要求导的张量然后直接用 torch.autograd.gradTensorFlow 则通过 GradientTape 上下文管理器来记录求导轨迹。优化器风格不同。PyTorch 需要手动把网络参数传给优化器并在每个 step 中执行 loss.backward() 和 optimizer.step()。TensorFlow 则在 GradientTape 内部计算梯度后用 optimizer.apply_gradients 更新参数。网络构建方式不同。PyTorch 推荐使用 torch.nn.Module 配合init和 forward 方法TensorFlow 推荐继承 tf.keras.Model在 call 方法中定义前向传播。2.3 作为 PINN 学习者第一门框架怎么选如果你的目标是快速上手、跑通论文、灵活修改网络结构优先考虑 PyTorch。它的调试体验好出问题容易定位。如果你的目标是将 PINN 模型部署到生产环境或者团队内部已有 TensorFlow 的技术栈也可以选择 TensorFlow。它能沿用 Keras 的接口写起来很方便。有一个很实际的建议是两个框架不需要同时学。先选择一个框架跑通 PINN 基础案例理解数据和物理方程的耦合方式等真正需要跨框架开发时你会发现核心概念是通用的切换成本远没有想象中高。在下一节我们先把 PyTorch 与 TensorFlow 的环境装好。3. 环境准备与版本说明3.1 安装策略与 Python 版本建议PINN 开发通常基于 Python 3.8 以上版本。PyTorch 2.x 和 TensorFlow 2.x 都要求 Python 3.8-3.12。为了保证环境不冲突强烈建议使用 Conda 创建独立虚拟环境按照不同项目分别安装依赖。本文示例环境如下操作系统Windows 11 / Ubuntu 22.04 均可Python 版本3.10CUDA 版本11.8 或 12.1以本机显卡驱动支持为准PyTorch 版本2.0 及以上TensorFlow 版本2.10 及以上如果你的电脑没有独立显卡也不影响学习和测试。CPU 版本同样可以运行本文的所有示例只是训练速度会慢一些。实际项目中的版本需要根据你的硬件环境调整本文重点演示配置和代码思路。3.2 创建 Conda 虚拟环境打开终端Windows 下推荐使用 Anaconda Prompt执行conda create -n pinn python3.10 -y conda activate pinn激活虚拟环境后所有安装操作都在这个环境内部进行不会影响系统全局 Python。3.3 安装 PyTorchPyTorch 官方提供了基于 CUDA 版本的安装命令。访问 PyTorch 官网的 Get Started 页面选择对应的系统、包管理器和 CUDA 版本即可生成安装命令。在 2024 年主流显卡驱动环境下一个常用的安装命令示例如下# CPU 版本 pip install torch torchvision torchaudio # CUDA 12.1 版本以官网命令为准 pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121安装完成后验证是否可用python -c import torch; print(torch.__version__); print(torch.cuda.is_available())如果输出 torch 版本号并且 torch.cuda.is_available() 为 True说明 GPU 版本安装成功。个别情况下由于网络问题导致官网下载缓慢可以选择国内镜像源安装例如pip install torch torchvision torchaudio -i https://pypi.tuna.tsinghua.edu.cn/simple注意使用镜像源安装的可能是 CPU 版本如需 GPU 版请确认安装包后缀。3.4 安装 TensorFlowTensorFlow 的安装相对简单CPU 版直接使用 pippip install tensorflowGPU 版的安装需要额外注意版本匹配。TensorFlow 2.10 是最后一个原生支持 Windows GPU 的版本从 2.11 开始Windows 上的 GPU 支持改为 WSL2 或 Linux 环境。相关内容可以参考官方发布说明这里不做硬性推荐。在 Ubuntu 环境下的安装命令pip install tensorflow # CPU 版 pip install tensorflow[and-cuda] # Linux GPU 简化安装验证安装python -c import tensorflow as tf; print(tf.__version__); print(tf.config.list_physical_devices(GPU))如果输出 GPU 设备列表说明 TensorFlow 成功识别到显卡。如果输出为空则当前使用的是 CPU 模式。3.5 安装其他依赖PINN 实战中还需要科学计算库和绘图库pip install numpy matplotlib scipy pandas至此环境准备完成。接下来我们进入核心实战环节。4. 实战案例PyTorch 实现 PINN 求解一维热传导方程4.1 问题定义我们考虑如下一维热传导方程∂u/∂t α ∂²u/∂x²其中α 为热扩散系数x 属于 [0, L]t 属于 [0, T]。为了方便演示取 α 1L 1T 1。初始条件设为u(x, 0) sin(πx)边界条件设为u(0, t) 0 u(1, t) 0该方程的解析解为u_exact(x, t) sin(πx) * exp(-π²t)我们可以用解析解来验证 PINN 的训练效果。4.2 网络结构设计PINN 通常采用一个简单的全连接神经网络。输入维度为 2x 和 t输出维度为 1u。隐藏层设置为 4 层每层 50 个神经元激活函数采用 Tanh。为了提升训练稳定性我们还需要在损失函数中计算网络输出关于输入的导数。这里全部使用 PyTorch 的自动微分实现。4.3 完整代码创建项目目录pinn_heat/ ├── pinn_pytorch.py └── pinn_tensorflow.py下面先编写 PyTorch 版本的核心代码。文件路径pinn_heat/pinn_pytorch.pyimport torch import torch.nn as nn import numpy as np import matplotlib.pyplot as plt # 设置随机种子保证结果可复现 torch.manual_seed(42) np.random.seed(42) # 1. 定义网络结构 class PINN(nn.Module): def __init__(self, layers): super(PINN, self).__init__() self.layers nn.ModuleList() for i in range(len(layers) - 1): self.layers.append(nn.Linear(layers[i], layers[i 1])) if i len(layers) - 2: self.layers.append(nn.Tanh()) def forward(self, x, t): inputs torch.cat([x, t], dim1) for layer in self.layers: inputs layer(inputs) return inputs # 2. 定义 PINN 损失函数 class HeatPINN: def __init__(self, net): self.net net self.alpha 1.0 def compute_loss(self, x_f, t_f, x_ic, t_ic, u_ic, x_bc, t_bc, u_bc): # 方程残差损失 x_f.requires_grad_(True) t_f.requires_grad_(True) u self.net(x_f, t_f) u_t torch.autograd.grad(u, t_f, create_graphTrue, grad_outputstorch.ones_like(u))[0] u_x torch.autograd.grad(u, x_f, create_graphTrue, grad_outputstorch.ones_like(u))[0] u_xx torch.autograd.grad(u_x, x_f, create_graphTrue, grad_outputstorch.ones_like(u))[0] f u_t - self.alpha * u_xx loss_residual torch.mean(f ** 2) # 初始条件损失 u_pred_ic self.net(x_ic, t_ic) loss_ic torch.mean((u_pred_ic - u_ic) ** 2) # 边界条件损失 u_pred_bc self.net(x_bc, t_bc) loss_bc torch.mean((u_pred_bc - u_bc) ** 2) total_loss loss_residual loss_ic loss_bc return total_loss, loss_residual, loss_ic, loss_bc # 3. 生成训练数据 def generate_training_data(n_f10000, n_ic200, n_bc200): # 内部点采样 x_f torch.rand(n_f, 1) * 1.0 t_f torch.rand(n_f, 1) * 1.0 # 初始条件: t 0 x_ic torch.rand(n_ic, 1) * 1.0 t_ic torch.zeros_like(x_ic) u_ic torch.sin(np.pi * x_ic) # 边界条件: x 0 和 x 1 x_bc torch.cat([torch.zeros(n_bc // 2, 1), torch.ones(n_bc // 2, 1)], dim0) t_bc torch.rand(n_bc, 1) u_bc torch.zeros_like(x_bc) return x_f, t_f, x_ic, t_ic, u_ic, x_bc, t_bc, u_bc # 4. 训练过程 def train(): layers [2, 50, 50, 50, 50, 1] net PINN(layers) pinn HeatPINN(net) optimizer torch.optim.Adam(net.parameters(), lr1e-3) x_f, t_f, x_ic, t_ic, u_ic, x_bc, t_bc, u_bc generate_training_data() epochs 5000 for epoch in range(epochs): optimizer.zero_grad() loss, loss_res, loss_ic, loss_bc pinn.compute_loss(x_f, t_f, x_ic, t_ic, u_ic, x_bc, t_bc, u_bc) loss.backward() optimizer.step() if epoch % 500 0: print(fEpoch {epoch:5d}, Loss: {loss.item():.6e}, Residual: {loss_res.item():.6e}, IC: {loss_ic.item():.6e}, BC: {loss_bc.item():.6e}) return net # 5. 验证与可视化 def evaluate(net): x np.linspace(0, 1, 100) t np.linspace(0, 1, 100) X, T np.meshgrid(x, t) x_flat X.flatten().reshape(-1, 1) t_flat T.flatten().reshape(-1, 1) x_tensor torch.tensor(x_flat, dtypetorch.float32) t_tensor torch.tensor(t_flat, dtypetorch.float32) with torch.no_grad(): u_pred net(x_tensor, t_tensor).numpy().reshape(X.shape) u_exact np.sin(np.pi * X) * np.exp(-np.pi**2 * T) error np.abs(u_pred - u_exact) print(f最大误差: {error.max():.6e}) print(f平均误差: {error.mean():.6e}) # 绘图对比 fig, axes plt.subplots(1, 3, figsize(15, 4)) im1 axes[0].contourf(X, T, u_pred, levels50, cmapjet) axes[0].set_title(PINN Prediction) fig.colorbar(im1, axaxes[0]) im2 axes[1].contourf(X, T, u_exact, levels50, cmapjet) axes[1].set_title(Exact Solution) fig.colorbar(im2, axaxes[1]) im3 axes[2].contourf(X, T, error, levels50, cmapjet) axes[2].set_title(Absolute Error) fig.colorbar(im3, axaxes[2]) plt.tight_layout() plt.savefig(pinn_pytorch_result.png, dpi150) plt.show() if __name__ __main__: trained_net train() evaluate(trained_net)4.4 运行与预期结果在终端执行python pinn_pytorch.py如果一切正常你会看到训练日志Epoch 0, Loss: 3.321057e-01, Residual: 2.903065e-01, IC: 1.018318e-02, BC: 2.850545e-02 Epoch 500, Loss: 7.723258e-03, Residual: 7.486368e-03, IC: 1.188900e-04, BC: 9.885860e-05 Epoch 1000, Loss: 4.924827e-04, Residual: 4.629711e-04, IC: 1.547843e-05, BC: 1.392236e-05 ... Epoch 4500, Loss: 1.937471e-06, Residual: 1.722513e-06, IC: 1.255207e-07, BC: 8.567622e-08最终最大绝对误差一般在 1e-3 到 1e-4 量级。不同机器和随机种子结果会略有波动这是正常现象。误差云图会显示误差主要集中在边界区域这是 PINN 求解 PDE 时的常见特征。4.5 代码要点说明自动微分需要设置 create_graphTrue因为计算二阶导数需要保留一阶导数的计算图。训练内部点数据时x_f 和 t_f 需要开启 requires_grad_。损失函数由残差项、初始条件和边界条件三部分组成。这里的权重都取 1实际项目中如果出现某项收敛过慢可以尝试调整权重。Adam 优化器在 PINN 中通常先训练几千步到几万步之后可以切换到 L-BFGS 做精细优化精度会更高。5. 实战案例TensorFlow 实现 PINN 求解同一方程5.1 完整代码下面我们使用 TensorFlow 2.x 实现同样的热传导方程求解。你会发现网络结构和损失函数逻辑几乎可以平移核心差异在自动求导和优化器调用方式上。文件路径pinn_heat/pinn_tensorflow.pyimport tensorflow as tf import numpy as np import matplotlib.pyplot as plt # 设置随机种子 tf.random.set_seed(42) np.random.seed(42) # 1. 定义网络结构 class PINN(tf.keras.Model): def __init__(self, layers): super(PINN, self).__init__() self.hidden_layers [] for i in range(len(layers) - 2): self.hidden_layers.append(tf.keras.layers.Dense(layers[i 1], activationtanh)) self.output_layer tf.keras.layers.Dense(layers[-1]) def call(self, x, t): inputs tf.concat([x, t], axis1) for layer in self.hidden_layers: inputs layer(inputs) return self.output_layer(inputs) # 2. 定义损失函数 class HeatPINN: def __init__(self, net): self.net net self.alpha 1.0 def compute_loss(self, x_f, t_f, x_ic, t_ic, u_ic, x_bc, t_bc, u_bc): # 方程残差 with tf.GradientTape(persistentTrue) as tape: tape.watch(x_f) tape.watch(t_f) u self.net(x_f, t_f) u_t tape.gradient(u, t_f) u_x tape.gradient(u, x_f) with tf.GradientTape() as tape2: tape2.watch(x_f) u_x_tensor tape2.gradient(u, x_f) u_xx tape.gradient(u_x_tensor, x_f) f u_t - self.alpha * u_xx loss_residual tf.reduce_mean(tf.square(f)) # 初始条件 u_pred_ic self.net(x_ic, t_ic) loss_ic tf.reduce_mean(tf.square(u_pred_ic - u_ic)) # 边界条件 u_pred_bc self.net(x_bc, t_bc) loss_bc tf.reduce_mean(tf.square(u_pred_bc - u_bc)) total_loss loss_residual loss_ic loss_bc return total_loss, loss_residual, loss_ic, loss_bc # 3. 生成训练数据 def generate_training_data(n_f10000, n_ic200, n_bc200): x_f tf.random.uniform((n_f, 1), minval0.0, maxval1.0) t_f tf.random.uniform((n_f, 1), minval0.0, maxval1.0) x_ic tf.random.uniform((n_ic, 1), minval0.0, maxval1.0) t_ic tf.zeros_like(x_ic) u_ic tf.sin(np.pi * x_ic) x_bc tf.concat([tf.zeros((n_bc // 2, 1)), tf.ones((n_bc // 2, 1))], axis0) t_bc tf.random.uniform((n_bc, 1), minval0.0, maxval1.0) u_bc tf.zeros_like(x_bc) return x_f, t_f, x_ic, t_ic, u_ic, x_bc, t_bc, u_bc # 4. 训练过程 tf.function def train_step(pinn, optimizer, x_f, t_f, x_ic, t_ic, u_ic, x_bc, t_bc, u_bc): with tf.GradientTape() as tape: loss, loss_res, loss_ic, loss_bc pinn.compute_loss(x_f, t_f, x_ic, t_ic, u_ic, x_bc, t_bc, u_bc) grads tape.gradient(loss, pinn.net.trainable_variables) optimizer.apply_gradients(zip(grads, pinn.net.trainable_variables)) return loss, loss_res, loss_ic, loss_bc def train(): layers [2, 50, 50, 50, 50, 1] net PINN(layers) pinn HeatPINN(net) optimizer tf.keras.optimizers.Adam(learning_rate1e-3) x_f, t_f, x_ic, t_ic, u_ic, x_bc, t_bc, u_bc generate_training_data() epochs 5000 for epoch in range(epochs): loss, loss_res, loss_ic, loss_bc train_step(pinn, optimizer, x_f, t_f, x_ic, t_ic, u_ic, x_bc, t_bc, u_bc) if epoch % 500 0: print(fEpoch {epoch:5d}, Loss: {loss.numpy():.6e}, Residual: {loss_res.numpy():.6e}, IC: {loss_ic.numpy():.6e}, BC: {loss_bc.numpy():.6e}) return net # 5. 验证与可视化 def evaluate(net): x np.linspace(0, 1, 100) t np.linspace(0, 1, 100) X, T np.meshgrid(x, t) x_flat X.flatten().reshape(-1, 1) t_flat T.flatten().reshape(-1, 1) x_tensor tf.convert_to_tensor(x_flat, dtypetf.float32) t_tensor tf.convert_to_tensor(t_flat, dtypetf.float32) u_pred net(x_tensor, t_tensor).numpy().reshape(X.shape) u_exact np.sin(np.pi * X) * np.exp(-np.pi**2 * T) error np.abs(u_pred - u_exact) print(f最大误差: {error.max():.6e}) print(f平均误差: {error.mean():.6e}) # 绘图对比 fig, axes plt.subplots(1, 3, figsize(15, 4)) im1 axes[0].contourf(X, T, u_pred, levels50, cmapjet) axes[0].set_title(PINN Prediction) fig.colorbar(im1, axaxes[0]) im2 axes[1].contourf(X, T, u_exact, levels50, cmapjet) axes[1].set_title(Exact Solution) fig.colorbar(im2, axaxes[1]) im3 axes[2].contourf(X, T, error, levels50, cmapjet) axes[2].set_title(Absolute Error) fig.colorbar(im3, axaxes[2]) plt.tight_layout() plt.savefig(pinn_tensorflow_result.png, dpi150) plt.show() if __name__ __main__: trained_net train() evaluate(trained_net)5.2 运行与预期结果执行python pinn_tensorflow.py如果 TensorFlow 已正确安装输出与 PyTorch 版本类似Epoch 0, Loss: 3.172991e-01, Residual: 2.807850e-01, IC: 1.182704e-02, BC: 2.243952e-02 Epoch 500, Loss: 8.109742e-03, Residual: 7.874082e-03, IC: 1.286271e-04, BC: 7.942671e-05 ... Epoch 4500, Loss: 1.795410e-06, Residual: 1.642870e-06, IC: 8.361904e-08, BC: 6.700047e-085.3 代码结构对比小结将两个版本的代码放在一起对比可以得出几个规律网络定义PyTorch 用 ModuleList forwardTensorFlow 在 call 方法中串联 Dense 层。数据生成PyTorch 用 torch.randTensorFlow 用 tf.random.uniform。自动微分PyTorch 在张量上设置 requires_gradTensorFlow 进入 GradientTape 上下文。参数更新PyTorch 使用 loss.backward() 和 optimizer.step()TensorFlow 通过 tape.gradient 拿到梯度后调用 apply_gradients。理解了这些差异你在任何一个框架下学习 PINN 时另一个框架的代码也能看懂个七七八八。6. 框架进阶能力在 PINN 中的运用6.1 自定义损失函数的灵活性PINN 的损失函数并不总是三个简单加权项。实际项目中可能还需要加入数据拟合项、额外物理约束项、不同区域的不同权重以及随着训练迭代动态调整的损失权重。PyTorch 中使用普通 Python 函数即可灵活拼装这些逻辑每个变量的梯度都能通过 autograd 单独追踪。TensorFlow 中需要注意如果使用 tf.function 加速训练自定义损失函数内部不能随意使用 Python 的原生 if 语句做动态控制否则可能触发重回溯影响性能。如果追求快速迭代可以暂时去掉 tf.function 装饰器用 eager 模式跑。6.2 学习率调度与优化器选择PINN 训练中Adam 优化器配合指数衰减学习率是比较常用的组合。也有一些论文建议先用 Adam 训练一定步数再切换到 L-BFGS 做精细化收敛。PyTorch 中 L-BFGS 的调用方式是optimizer torch.optim.LBFGS(net.parameters(), lr1.0, max_iter50000, max_eval50000) def closure(): optimizer.zero_grad() loss, _, _, _ pinn.compute_loss(x_f, t_f, x_ic, t_ic, u_ic, x_bc, t_bc, u_bc) loss.backward() return loss optimizer.step(closure)TensorFlow 中没有直接等价的 L-BFGS 优化器需要借助 tensorflow_probability 实现配置复杂度会高一些。这也是很多研究团队偏向使用 PyTorch 复现 PINN 论文的原因之一。6.3 GPU 加速的注意事项默认情况下PyTorch 需要手动把模型和张量搬到 GPUdevice torch.device(cuda if torch.cuda.is_available() else cpu) net net.to(device) # 数据也要 .to(device)TensorFlow 则默认优先使用 GPU不需要显式转移张量。但如果机器上有多个 GPU也需要通过 tf.device 或策略分配指定设备。在 PINN 场景中GPU 加速效果最明显的是大批量内部点采样和复杂网络结构的训练。对于小规模的 1D 入门案例CPU 和 GPU 的差距并不大。7. 常见问题与排查思路7.1 安装 PyTorch 后 torch.cuda.is_available() 为 False这是非常常见的问题主要有三种原因第一种安装的是 CPU 版本。检查安装包名称重新安装时选择带 cu121 或 cu118 后缀的版本即可。第二种CUDA 版本与显卡驱动不匹配。可以在终端执行 nvidia-smi 查看驱动支持的 CUDA 版本然后选择合适的 PyTorch 安装命令。第三种环境变量问题。有时安装完 CUDA 但没有把 CUDA 的 bin 目录添加到 PATH 中导致 PyTorch 找不到动态库。排查顺序建议是先确认驱动正常再确认 PyTorch 安装命令是否包含 CUDA最后检查环境变量。7.2 TensorFlow GPU 版提示找不到 libcudart在 Linux 上安装 TensorFlow 时如果系统缺少 CUDA 运行库一般会加载 tf 失败。解决方案是安装 NVIDIA 官方提供的 CUDA 工具包或者使用 pip 安装带依赖的版本。在 Windows 上TensorFlow 2.11 之后 GPU 支持已经迁移到 WSL2。如果必须在 Windows 原生环境使用 TensorFlow GPU建议固定安装 2.10 版本。7.3 训练损失下降到一定程度后不再下降这可能是因为 Adam 学习率过大在接近最小值附近徘徊。可以降低学习率或在训练后期切换到 L-BFGS。也可能是因为损失函数各项权重不均衡。例如方程残差项已经很小但边界条件项仍然占主导。此时可以调整权重或者在损失函数中加入自适应权重机制。7.4 梯度为 NaN 或训练发散原因通常是网络输出值过大导致 tanh 的导数消失或梯度爆炸。可以尝试使用 Xavier 初始化、降低学习率、减少隐藏层宽度、对输入数据做归一化处理。PINN 中对 x 和 t 做归一化到 [0,1] 或 [-1,1] 区间能显著提高训练稳定性。7.5 PyTorch 2.6 中 weights_only 警告问题在使用 torch.load 加载模型文件时PyTorch 2.6 版本将 weights_only 参数的默认值改为 True可能导致加载含有自定义类实例的 checkpoint 时出现兼容警告或报错。如果你是从旧版本升级到 PyTorch 2.6并且在加载完整训练状态时遇到类似 “WeightsUnpickler error” 的信息可以改为显式设置state_dict torch.load(model.pth, map_locationcpu, weights_onlyFalse)但需要明确一个安全边界weights_onlyFalse 会允许反序列化执行任意代码所以只应加载来自可信来源的 checkpoint。如果只是加载模型权重直接使用 weights_onlyTrue 保持默认即可这也是官方推荐的安全设置。7.6 PINN 预测结果与解析解偏差较大如何改进如果训练损失已经降到较低水平但预测解仍然较差可以按以下方向排查增加内部采样点数量。调整网络层数或神经元数量。使用残差连接或 Fourier Feature 编码增强网络对高频分量的表达。训练中逐步增加边界点的约束权重。将 L-BFGS 精细优化阶段纳入训练流程。7.7 使用表格汇总常见问题问题现象常见原因解决思路torch.cuda.is_available() 为 False安装了 CPU 版本或驱动不匹配按官方命令重新安装 GPU 版TensorFlow 找不到 GPU版本与 CUDA 不匹配Windows 固定 2.10Linux 装 CUDA 工具库损失降到一定程度不再下降学习率过大或损失权重不均调整学习率与损失权重梯度为 NaN网络初始化或输入未归一化使用 Xavier 初始化与归一化加载模型报 weights_only 错误PyTorch 2.6 默认值变更显式设置 weights_onlyFalse 并评估来源可信度预测精度不达标采样点不足或网络容量不够增加采样点、扩展网络结构8. 最佳实践与工程建议8.1 从我实际使用两个框架的经验出发在我完成多个 PINN 项目的经验中有一个非常真实的体会框架选型早一步后面少踩很多坑。如果是学术研究、论文复现、快速验证新想法PyTorch 的高自由度会让开发体验非常流畅。torch.autograd.grad 写起来很顺手调试器可以直接观察任意中间张量的梯度情况。切换到 L-BFGS 也极其方便这对于 PINN 这种需要精细优化的场景很有价值。如果是企业落地、已有 TensorFlow 技术栈、需要与 Keras 生态配合那么 TensorFlow 也很合适。TensorFlow 的 SavedModel 导出、TF Serving 部署链路是完整的从训练到服务化的路径更短。另外一个建议是第一次跑 PINN 案例时先在 CPU 上验证逻辑确认损失函数曲线正常下降后再切换到 GPU 跑大规模采样。可以节省很多排查环境问题的时间。8.2 建议的工程实践清单统一使用 Conda 虚拟环境管理依赖项目之间互不干扰。在代码开头固定随机种子方便对比不同模型结构的效果。将数据集生成逻辑和网络结构定义分离方便后续换用不同偏微分方程。训练过程中周期性地保存 checkpoint避免训练中断导致前功尽弃。除了打印 loss 数值还可以定期在验证集上计算最大误差直观观察精度变化。将超参数学习率、隐藏层宽度、采样点数提取为配置字典或命令行参数方便批量实验。使用 TensorBoard 或 matplotlib 记录训练曲线分析收敛趋势。生产环境使用 TensorFlow 时注意模型的输入输出签名定义避免部署时类型不一致。8.3 从 PINN 学习路线的角度看框架建议的学习顺序是先用 PyTorch 跑通一个 PINN 基础案例再对照 TensorFlow 版本改写一遍。你不需要同时掌握两个框架的所有细节只要反复对比同一模型在两种框架下的写法就能在较短时间内建立跨框架迁移的能力。之后可以逐步尝试更复杂的方程比如 Burgers 方程、Navier-Stokes 方程并在网络结构中引入 Fourier Feature Embedding 或注意力模块。这些内容我们会在后续的 PINN 入门 30 讲系列中继续展开。9. 总结与下一步学习建议通过本文你已经掌握了 PINN 依赖深度学习框架的深层原因了解了 PyTorch 与 TensorFlow 在自动微分、优化器、网络搭建上的实现差异并且分别使用两个框架跑通了一维热传导方程的 PINN 求解。在继续学习后续内容之前建议你先完成下面几件小事把本文两个版本的代码都运行一遍对比训练日志和误差云图。尝试修改网络层数或激活函数观察对训练收敛速度的影响。尝试将方程改为波动方程或 Burgers 方程感受 PINN 对不同方程结构的适应能力。检查自己的环境配置确认 GPU 是否可用。如果暂时没有 GPU在 CPU 上跑 5000 步也能得到可接受的结果只是时间会稍长一些。框架只是实现物理信息神经网络的手段核心仍然是物理方程的理解、网络结构的设计以及对训练过程的调试能力。把今天的内容消化好后续课程中当我们引入更复杂的损失函数、自适应权重、高维 PDE 案例时你就能更从容地跟进。如果你在安装或运行过程中遇到报错可以把错误信息截图或复制到评论区。我会针对高频问题补充进一步的排查说明。如果本文对你有帮助建议先收藏备用方便后续学习时随时查阅。我们下一篇再见。