物理信息神經網絡

用於求解納維-斯托克斯方程的物理信息神經網絡

物理信息神經網絡（英語：physics-informed neural network，簡稱PINN) 是一種通用函數近似器，可以在學習過程中嵌入特定物理定律的信息，這些定律滿足給定數據集並以偏微分方程的形式描述。一些生物和工程系統存在數據稀缺性的問題，使得大多先進的機器學習技術在這些情境下缺乏魯棒性並變得無效，而PINN則能夠克服這種缺陷。這一技術將一般物理定律的先驗知識以正則化的方式用於神經網絡訓練以限制解空間的大小，從而提高函數近似的準確度。通過將先驗信息嵌入神經網絡，不僅增強了可用數據的信息利用，使得算法能夠學習到正確的解，並且也能在訓練樣本數量較少的情況下提升泛化性能。

函數近似

大多數控制系統動力學的物理定律都能夠以偏微分方程來描述。例如，納維-斯托克斯方程（N-S方程）是從控制流體力學的守恆定律（即質量、動量和能量守恆）推導出的一組偏微分方程。滿足適當的初值和邊界條件的N-S方程可以定量描述特定幾何形體中的流動動力學現象。然而N-S方程無法精確求解，通常需使用有限差分、有限元、有限體積等數值方法得到數值解。在此情形下，需要考慮先驗假設、線性化、適當的時間和空間離散化等才能求解控制方程。

利用深度學習求解描述物理現象的偏微分方程現已經成為科學機器學習的一個新領域，得益於神經網絡的通用逼近性和高表達能力。一般而言，只要提供足夠的訓練數據，深度神經網絡就能近似任意高維函數。然而，單純的神經網絡並未考慮問題背後的物理特性，它們提供的近似精度仍然嚴重依賴於問題的幾何形狀以及初始和邊界條件。在沒有這些初步信息的情況下，問題的解並不唯一，同時也可能不符合物理實際。與此相對，PINN在神經網絡訓練過程中利用了物理上的控制方程。換句話說，PINN的設計使其不僅能經過學習以滿足給定的訓練數據，同時還能滿足相應的控制方程。通過這種方式，神經網絡可以在缺乏龐大完整數據的情形下進行訓練。有時還可能在不知道確切邊界條件的情況下找到偏微分方程的解。總體而言，當對問題的物理特性有一定了解並能提供某種形式的訓練數據（即使是稀疏和不完整的數據）時，PINN可以用於獲得高保真度的最優解。

PINN能夠解決各類科學計算問題，是一種用於偏微分方程數值求解的開創性技術。PINN可被視為是傳統計算方法（如計算流體力學 ）的無網格替代方案，以及用於模型反演和系統識別的新型數據驅動方法。值得注意的是，經過訓練的PINN網絡可在無需重新訓練的情況下在不同解像度的模擬網格上求解。此外，PINN還能利用自動微分來計算偏微分方程中所需的導數。

建模與計算

一般的非線性偏微分方程可表示為：

$u_{t}+N[u;\lambda ]=0,\quad x\in \Omega ,\quad t\in [0,T].$

其中$u(t,x)$表示方程的解，$N[\cdot ;\lambda ]$表示一個以$\lambda$的參數的非線性算子，而$\Omega$則是$\mathbb {R} ^{D}$的一個子集 。這種一般形式的控制方程適用於眾多數學物理中問題，例如守恆定律、擴散過程、對流擴散系統以及動力學方程等。對上述方程描述的通用動力系統，假定得到含噪聲（不確定性）的測量數據，可將PINN用於解決偏微分方程中的兩類問題：數據驅動求解（data-driven solution）與數據驅動發現（data-driven discovery）。

偏微分方程的數據驅動求解

偏微分方程的數據驅動求解用於計算系統的隱藏狀態$u(t,x)$，此時需要給定系統的邊界數據、測量數據𝑧以及固定的模型參數𝜆。問題的控制方程為

$u_{t}+N[u]=0,\quad x\in \Omega ,\quad t\in [0,T]$ 。

通過定義殘差$f(t,x)$

$f:=u_{t}+N[u]=0,$

可以用深度神經網絡近似$u(t,x)$。該網絡可使用自動微分技術進行微分。$u(t,x)$和$f(t,x)$的參數能通過最小化以下損失函數$L_{tot}$來學習：

$L_{tot}=L_{u}+L_{f}.$

其中$L_{u}=\Vert u-z\Vert _{\Gamma }$是指經PINN求得的解$u(t,x)$及相應的邊界條件和點集$\Gamma$上的測量數據之間的誤差，而$\Gamma$則表示定義了測量數據和邊界條件的點集。$L_{f}=\Vert f\Vert _{\Gamma }$則是指殘差函數的均方誤差。其中$L_{f}$用於鼓勵PINN在訓練過程中學習由偏微分方程表達的結構信息。

這一方法已用於生成計算高效並內嵌物理信息的代理模型，應用於物理過程預測、建模預測控制、多物理場和多尺度建模及仿真等。已證明它能收斂至偏微分方程的精確解。

偏微分方程的數據驅動發現

給定系統中含噪聲、不完整的測量數據$z$，偏微分方程的數據驅動發現是指通過計算發現最符合觀察數據的未知狀態$u(t,x)$和模型參數$\lambda$。問題的控制方程表示為

$u_{t}+N[u;\lambda ]=0,\quad x\in \Omega ,\quad t\in [0,T].$

通過定義$f(t,x)$

$f:=u_{t}+N[u;\lambda ]=0,$

可使用深度神經網絡近似$u(t,x)$。$u(t,x)$和$f(t,x)$的參數以及模型參數$\lambda$能通過最小化以下損失函數$L_{tot}$來學習:

$L_{tot}=L_{u}+L_{f}.$

其中$L_{u}=\Vert u-z\Vert _{\Gamma }$，$u$和$z$分別指稀疏點集$\Gamma$上的數值解與測量數據，而$L_{f}=\Vert f\Vert _{\Gamma }$則表示殘差函數。損失函數的第二項用於在訓練過程中滿足偏微分方程所表示的結構化信息。

該策略能夠發現由非線性偏微分方程描述的動力模型，構建計算高效且完全可微的代理模型，適用於預測、控制、數據同化等領域。