當物理學遇到機器學習:機器學習綜述基於物理知識

1.簡介：機器學習嵌入物理知識。

在某些領域取得了巨大的成功，如計算機視覺和自然語言處理。大量的訓練數據和高性能的神經網絡架構給出了超越以往方法的解決方案。為了促進科學發現，進一步提高傳統分析建模的可能性，研究人員也開始探索機器學習模型的應用。

雖然給出了一組輸入輸出對，但深度神經網絡可以通過適當的優化在大量數據中獲得複雜的輸入輸出關系，但先驗知識在尋找最佳解決方案中仍然發揮著重要作用。作為數據分布和任務屬性的高級提取，先驗知識可以在有限的培訓數據中提供不存在或難以提取的豐富信息，有助於提高數據效率、概括能力和生成模型的合理性0機價免預繳iphone13。

在漫長的曆史中，物理知識在許多重要的科學和工程應用中被清晰地收集和驗證，包括自然現象和人類行為的抽象和總結。因此，本文重點討論了將先驗物理知識整合到機器學習模型中的主題，即物理信息機器學習(pIML)。與其他類型的先驗知識，如知識地圖、邏輯規則和人類反饋[22]相比，由於物理知識的特殊屬性和形式，物理知識的整合需要特殊的設計。

本文調查了pIML最近的大量工作，並從三個方面進行了總結。(1)pIML的動機可以進一步分類為使用機器學習服務於物理領域的任務，並將物理原理融入現有的機器學習模型，用於現實世界。(2)pIML中的物理知識是涵蓋廣泛問題的一般原則。(3)pIML中物理知識的整合方法。根據知識整合的位置，將這些方法分為數據增強、神經網絡架構設計和物理信息優化。

本文的結構如下。第二節用pIML分析了兩個主要動機:一個是物理領域的主要任務，另一個是現實世界的問題。第三節介紹了pIML中廣泛使用的幾個通用物理原理。第四節研究了物理知識整合的方法。第五節討論了pIML的挑戰和潛在的未來研究方向。第六節是整篇論文的總結。

2.pIML動機：

物理用於機器學習，機器學習用於物理。

物理問題涉及時空數據建模、因果推理、計算機視覺、概率推理等各種數據密集型任務。由於機器學習方法在這些任務中取得了巨大的成功，近年來，機器學習模型的使用越來越受到重視。

另一方面，基於物理的機器學習方法在靈活性、通用性和計算成本方面優於現有的數值或純物理方法。同時，它們仍然具有物理合理性。本節介紹了機器學習在許多物理任務中的最新進展，包括替代模型模擬、數據驅動pDE解決方案、物理模型參數、降維模型和知識發現。

3.pIML中的物理知識。

本節介紹了集成在pIML中的幾種通用物理知識。雖然在相應的解決方案中可以使用更多的領域/任務的具體知識，但我們在本節中介紹的每一類別都涵蓋了廣泛的問題，並提供了一系列常用的解決方案，而不僅僅是一兩個特定的任務。

首先是經典的力學和能量守恒定律。牛頓力學、拉格朗日力學和哈密頓力學是描述經典力學系統的三種典型方法。牛頓力學被廣泛應用於描述位置、速度、加速度和力之間的關系，而拉格朗日和哈密頓力學提供了一個有效的工具來遵循節能定律在電力系統建模。

二是對稱性和不變量。物體或系統中定義的對稱性是保持某些屬性不變的變化。典型的對稱性包括視覺對象分類問題中的運動、分子屬性預測問題中的旋轉以及粒子系統中的排列組合全球短信通訊收費。

pIML中的一般物理知識還包括偏微分方程的數值方法和Koopman理論。

4.pIML的方法。

典型的機器學習解決方案涉及三個關鍵部分：數據、模型和優化，每個部分都可以與物理知識相結合。下一部分將物理知識與現有技術的各個部分相結合。然而，我們應該注意到，這些技術並不是相互排斥的：物理知識可以集成到機器學習解決方案的多個部分。

我們根據物理知識的形式和整合方法對現有的工作進行分類。我們注意到，現有的工作可以將知識整合到三個方面：數據、模型和優化。然而，整合能量守恒定律、對稱性、微分方程數值方法和Kopman理論等一般物理知識的研究主要集中在計算圖中。主要原因是，這種一般的物理知識可能會在可重複使用的網絡結構中轉化為歸納偏差，在預測性能和數據效率方面優於基於物理知識的數據增強和損失函數。這是因為(1)一般的物理知識適用於各種問題，導致一般的網絡架構。(2)與為特定領域設計的複雜數值模擬器(如天氣和湍流)相比，歸納偏差的形式更簡單。