模型治理與稽核（model governance and audit）

當一個模型決定誰能拿到貸款、得到什麼診斷或一份假釋建議時，組織必須能在事後、對外部第三方證明：這個決策是負責任地做出的。模型治理與稽核就是那套讓模型可問責的控制、核可與紀錄：是誰建的、用了什麼資料、有哪些已知限制、誰核准它用於何種用途，以及一份記錄每個版本與每個決策、無法竄改的軌跡，好讓整個生命週期經得起檢視。

具體而言，治理加入了有閘門的核可流程（模型未經指定角色簽核不得進入生產）、結構化的文件如模型卡與資料表，載明預期用途、跨子群的效能與已知風險，以及防竄改的稽核日誌，把每一筆預測綁定到產生它的確切模型、資料與程式碼。它強制存取控制與職責分離，排程定期審查與偏誤、公平性評估，並把這一切對應到法規架構，例如歐盟人工智慧法、各產業的模型風險規範或內部政策。

之所以困難，是因為可問責性必須在設計時就植入，而非事後加裝。血緣、再現性與不可竄改的紀錄，必須在稽核被提出之前就已存在，因為若你當時沒捕捉，事後無法回溯證明一筆預測是怎麼做出的。良好的治理仰賴與其餘機器學習維運相同的版本控制、中繼資料與登錄基礎設施，只是把它們重新用於提供證據，而非單純的便利。