建構大型語言模型應用與前沿
負責任的部署(responsible deployment)
把一個 LLM 擺到真實的人面前,是一個有後果的決定,而不只是一個工程里程碑。負責任的部署(responsible deployment)是一種做法:以認真看待其危害的方式釋出這些系統——對模型能做什麼、不能做什麼保持誠實、保護使用者的資料、防範可預見的濫用,並在出錯時保持當責。它是「上線得快」與「上線得謹慎」之間的差別。
實務上,它橫跨整個生命週期:在推出前測試有害、帶偏見或虛假的輸出,往往透過紅隊演練;在模型周圍層層佈下防護欄與監控;坦白告知使用者他們是在跟 AI 對話、而它可能出錯;在送出與儲存哪些資料上尊重隱私與同意;把功能的範圍框好,讓一個錯誤無法造成嚴重損害;並給使用者救濟之道——一個能申訴、更正或接觸到真人的管道。釋出通常是分階段的、被密切盯著的,並在問題浮現時回滾。
這些系統以規模化的方式被部署給數以百萬計的人,所以一個在展示裡看似輕微的瑕疵,可能廣泛而迅速地造成真實的傷害——糟糕的醫療或法律建議、被放大的偏見、隱私外洩,或令人信服的錯誤資訊。在開放與控制之間、在求快與求穩之間,也存在著一種艱難而未解的張力,而監管仍在追趕。負責任的部署不會讓一個模型變得完美,但它讓打造這些工具的人,對其中的利害保持誠實,並對結果負起責任。
又称
另见