Borell-TIS 不等式(Borell-TIS inequality)
/ bo-RELL /
高斯過程的上確界波動有多大?Borell-TIS 不等式(Borell,以及獨立的 Tsirelson-Ibragimov-Sudakov)給出驚人乾淨的答案:上確界以高斯尾集中於其平均(或中位數)附近,而唯一相關的尺度是過程中「最大的單一標準差」,而非變數的個數。這是高斯上確界集中的基石,也是經驗過程理論與極值界的主力工具。
設 (X_t)_(t in T) 為幾乎必然有界的中心化高斯過程,記 M = sup_(t in T) X_t,並令 sigma^2 = sup_(t in T) E[X_t^2] 為最大的逐點變異數。不等式陳述:對每個 u > 0,P( | M - E[M] | >= u ) <= 2 exp( -u^2 / (2 sigma^2) )(且 E[M] 可換成中位數)。用白話說:高斯過程的上確界本身是變異數代理為 sigma^2 的次高斯隨機變數——它集中得恰如最壞情形變異數的單一高斯一樣緊,無論指標集 T 多麼豐富或高維。證明路線是高斯等周/對數凹性機制(或對 Lipschitz 函數的高斯 Poincare 型集中):M 是底層高斯向量的 1-Lipschitz 函數(在歐氏-到-sigma 的標度下),而高斯的 Lipschitz 函數會集中。
重要性:Borell-TIS 把難題「sup X_t 有多大」化簡為兩個「分開的」問題——波動(僅由 sigma 免費控制)與位置 E[M](真正困難的部分,由 Dudley 熵界或 Sudakov-Fernique 攻克)。這正是為何對高斯上確界,你只需為平均費神。兩個誠實提醒:不等式控制 M 相對「它自己平均」的偏差,而非該平均之值;且它要求過程幾乎必然有界(否則 M = +infinity,無從集中)。
對 n 個獨立標準常態 Z_1, ..., Z_n,各變異數 sigma^2 = 1,Borell-TIS 給出 P( | max_i Z_i - E[max_i Z_i] | >= u ) <= 2 exp(-u^2 / 2),「不」依賴 n。平均增長如 E[max Z_i] 約為 sqrt(2 log n),但圍繞它的波動維持在 1 階——波動不隨維度增長,只有位置增長。
眾多高斯的最大值不論 n 多大都在尺度 sigma 上波動;只有其平均漂移(如 sqrt(2 log n))。
Borell-TIS 僅界定上確界相對其平均的「波動」(用 sigma,即最大變異數);求平均本身是由熵/比較方法解決的另一個難題。