AI 治理（AI governance）

每一項強大的技術，最終都會長出一套規則手冊。汽車帶來了速限、安全帶與駕照考試；藥物帶來了臨床試驗與審批機構；航空帶來了黑盒子與事故調查員。AI 治理就是這套規則手冊在人工智慧領域的、仍然年輕的嘗試：決定誰可以打造強大的系統、要在什麼防護措施下進行、以及出了差錯時誰要負責。

更精確地說，AI 治理是一整張由法律、標準、機構、規範與誘因交織而成的網，用來形塑 AI 如何被開發與部署。它橫跨「硬規則」（具法律約束力、要求高風險系統在釋出前必須先測試）與「軟規則」（公司簽署的自願承諾，或多數實驗室同意遵循的技術標準）。它同時牽涉眾多角色：各國政府、國際組織、訓練模型的公司、外部稽核者、保險業者，以及公民社會。一個具體例子：規定任何訓練規模超過某個門檻的模型，在上市前必須向政府單位通報，這就是一項 AI 治理措施；產業界協議彼此分享安全發現，也是。

治理之所以重要，是因為光靠技術上的安全工作做不到全部。就算我們知道如何打造一個安全的系統，仍然需要某種機制去確保每個人真的這麼做，並在競爭誘使大家偷工減料時進行協調。它同時也確實困難而充滿爭議：走太快，可能把大型既有業者的地位鎖死，或去管制一個還不存在的能力；走太慢，強大的系統就在毫無監督下上線。對於分寸該如何拿捏，理性的人意見不一。AI 治理與 AI 倫理有所重疊，但兩者並不相同：後者較偏向當下的危害，例如偏見、隱私與勞動衝擊。