開源大型語言模型生態系（open-source LLM ecosystem）

在大型實驗室那些封閉、只能透過 API 取用的模型之外，還運行著一個欣欣向榮的世界：一批任何人都能下載並執行其權重的模型。開源生態系（open ecosystem）就是圍繞這些可自由取得的模型而生的社群、聚集地與工具——人們在那裡分享權重、微調版本、資料集、量化建置，以及執行它們的函式庫。它意味著你可以自己架設一個能幹的模型，而不必租用。

其核心是實驗室與公司釋出的開源權重（open-weight）模型，透過一些聚集地散布，社群在那裡上傳成千上萬個衍生的微調、轉接器與壓縮版本。圍繞它們的，是在本地或你自己伺服器上跑模型的工具、做高效量化推論的格式、比較它們的排行榜，以及共享的資料集。這些多半是「開源權重」——你拿到的是訓練好的參數和一紙使用授權——而非「釋出訓練資料與程式碼」那種意義上的完全開源。

開源模型給你掌控、隱私、深度微調的自由，以及沒有按詞元計費的供應商帳單，這很適合受監管的產業與重度使用者。取捨是真實的：你得自己運行基礎設施、最頂尖的前沿能力往往仍先出現在封閉 API 之後，而各家授權對「允許怎樣的商業使用」也各不相同。開放也帶來一種安全上的張力——已釋出的權重收不回來，於是任何人都能把它的安全防護拆掉。