誤差如何被數學控制住：范數與 Banach 空間 | 泛函分析第五講

導語

集智學園聯合東京都市大學賈伊陽老師共同開設了「」課程，本系列課程將以嚴謹的理論推導為核心，逐步建立泛函分析的基礎架構。第一階段將探討從有限維跨越到無限維的動機與基礎；第二階段將重點建立度量與完備性，掌握 Banach 空間與不動點定理的精髓；第三階段將深入探討 Hilbert 空間的幾何結構與對偶空間的映射體系。最終，在第四階段，將梳理完整的結構總覽與應用地圖，透視這些純粹的數學工具如何作為底層基石，廣泛應用于現代物理、復雜系統模擬與前沿計算科學中。

作為系列課程的第五講，賈伊陽老師將以「范數與 Banach 空間」為主題，這一節中范數是“選擇關心哪種誤差”的語言，而Banach 空間的完備性，保證這種選擇在極限處仍然成立，本節課程將聚焦誤差控制與算子穩定性場景，系統闡述范數的定義及常見的??與C[a,b]空間。課程將深入解析Banach空間的完備賦范屬性，體會其作為“確保解存在性的核心數學舞臺”的意義。正式分享將于5月10日（周日）19:00-20:30進行。

主題：函數空間作為向量空間

課程簡介

神經網絡的譜范數歸一化為何能穩定 GAN 的訓練？最大均值差異（MMD）如何把兩個概率分布的比較轉化為一個函數空間的范數計算？這些機器學習的技術細節，根植于同一套數學結構：范數與 Banach 空間。

本系列課程第五講，以“誤差為什么重要”為起點建立范數直覺：不同范數衡量不同類型的誤差，算子穩定性取決于誤差能否被控制在可接受范圍內。在此基礎上引入 Banach 空間的完備性，解釋為何理論上許多算法必須在完備空間中才有意義。

課程內容直接錨定一線研究文獻。Gretton 等人（JMLR 2012）用 RKHS 范數實現兩樣本檢驗；Bartlett 等人（NeurIPS 2017）用譜范數建立神經網絡的泛化界。課程逐步拆解這兩篇論文背后的數學機制，并延伸至 Path norm、Wasserstein 距離、Sobolev 范數等當代學習理論的核心工具。理論補充部分討論算子范數的代數性質、有界線性算子的連續性、組合算子的誤差傳播，以及 Ban 作為 enriched category 的結構視角。

學完本講，你能夠準確理解不同范數選擇背后的誤差幾何，讀懂涉及譜范數和 RKHS 范數的機器學習論文，并在完備性假設的背景下評價算法的穩定性保證。

課程大綱

1. 為什么很多算法在理論上需要完備性？

a. 目標：理解三個問題：

1. 如何用范數度量誤差？

2. 算子為什么可能放大誤差？

3. Banach 空間為什么是討論穩定性的基本空間？

2. 場景驅動：誤差為什么重要

3. 論文1：概率密度作為范數

a. Gretton et al. (2012), A Kernel Two-Sample Test, JMLR.

4. 論文2：譜范數（算子范數）控制算子穩定性與復雜度

a. Bartlett, Foster, Telgarsky, “Spectrally-normalized margin bounds for neural networks”, NeurIPS 2017

5. 其他相關文獻

6. 關于Banach空間的補充

關鍵術語

• Banach 空間：完備的賦范線性空間；Cauchy 序列的極限必須仍在空間內，許多收斂性定理以此為前提。

• 算子范數（譜范數）：線性算子將單位球映射出的最大拉伸倍數，衡量算子對輸入誤差的放大程度。

• RKHS（再生核 Hilbert 空間）：由核函數定義的函數空間，每個點處的函數值可通過核的內積表示。

• 最大均值差異（MMD）：用 RKHS 范數定義的概率分布距離，可直接由樣本估計，無需密度估計。

• 譜歸一化（Spectral Normalization）：將權重矩陣除以其譜范數，將網絡的 Lipschitz 常數控制在 1 以內。

• 有界線性算子：滿足 ‖Ax‖ ≤ C‖x‖ 的線性映射，有界與連續在賦范空間中等價。

• Path norm：ReLU 網絡中沿激活路徑積的范數，對參數的重縮放變換不變，更準確刻畫網絡復雜度。

• Wasserstein 距離：基于最優傳輸的概率分布距離，在生成模型（WGAN）理論分析中廣泛使用。

• Sobolev 范數：同時控制函數值與各階導數大小的范數，用于度量函數的光滑性與對擾動的穩定性。

• Enriched category（豐化范疇）：Ban 的代數結構視角；態射集本身構成 Banach 空間，保留線性與度量信息。

課程信息

課程主題：范數與 Banach 空間

課程時間：2026年5月10日（周日） 19:00-20:30

課程形式：騰訊會議（會議信息見群內通知）；集智學園網站錄播（3個工作日內上線）

課程主講人

賈伊陽，東京都市大學講師、前日本女子大學助理教授，前日本成蹊大學助理教授。研究重點是計算復雜性，算法，以及范疇相關理論。集智學園《》課程講師。

課程適用對象

• 做微分方程、數值算法、反問題、信號處理、控制的學習者與研究者

• 做優化、機器學習、統計推斷，希望理解正則化與泛化的結構來源的研究者

• 讀量子/數學物理文獻，希望把 Hilbert 空間與算子語言用順手的研究者

• 更廣義地：經常處理“函數作為未知量”的問題、并且想要一套可遷移框架的研究者

1. 面對一個新問題，你能先問對問題：該在哪個空間里解？該用哪個范數衡量誤差？需要什么完備性？算子是否有界？

2. 你能理解常見方法背后的統一邏輯：迭代為何收斂、正則化為何穩定、最小二乘為何等價于投影、弱解為何成立。

3. 你會獲得一套“抽象但可落地”的語言：寫證明、讀論文、做建模時，能把碎片化技巧收束到結構層面。

1. 課程形式：騰訊會議直播，集智學園網站錄播。本系列課程不安排免費直播。

2. 課程周期：2026年3月29日-2026年6月14日，每周日晚19點-21點進行。

3. 課程定價：原價499

   1. 早早鳥價299，截止時間：2026年3月22日中午12點

   2. 早鳥價399，截止時間：2026年3月30日中午12點

課程鏈接：https://campus.swarma.org/v3/course/5700?from=wechat

付費流程：

2. 課程頁面添加學員登記表，添加助教微信入群；

3. 課程可開發票。

課程共創任務：課程字幕

為鼓勵學員深度參與、積極探索，我們致力于形成系列化知識傳播成果，并構建課程知識共建社群。為此，我們特別設立激勵機制，讓您的學習之旅滿載收獲與成就感。

課程以老師講授為主，每期結束后，助教會于課程群內發布字幕共創任務。學員通過參與這些任務，不僅能加深對內容的理解，還可獲得積分獎勵。積分可兌換其他讀書會課程或實物獎品，助力您的持續成長。