系統性風險——隱私、著作權、能源與社會

模型記得的，比你以為的多

在爬取的網路文字上訓練出的模型，能逐字記住其中的片段，而在適當的提示下，它可能把這些片段吐回來——姓名、地址、電話號碼、私人文件的段落。這就是隱私洩漏（privacy leakage），它有兩張臉：訓練期間流入的資料，以及你現在貼上的、可能被記錄、被用於未來訓練、或單純被第三方供應商看見的資料。兩者都值得謹慎對待。

兩端都有緩解之道。在訓練端，像差分隱私（differential privacy）這樣的技術，加上積極的去重，能限制任何單筆記錄被記住的程度。在使用端，這是一種操作紀律：不要把機密、健康紀錄、或他人的個資，貼進一個你尚未查清其資料處理方式的工具裡。

差分隐私限定了任何单条训练记录能在多大程度上改变模型的输出——这正是隐私防护背后的形式化保证。

誰的文字、誰的圖像？

同樣的爬取行為，引出一個棘手而懸而未決的法律問題。模型在受著作權保護的書籍、文章、程式碼與圖像上訓練，通常未經創作者明確許可，並且能產出與受保護作品高度相似的輸出。著作權與大型語言模型如今是多起重大訴訟的主題，對於什麼算合理使用、模型輸出歸誰所有、創作者是否應獲補償，都還沒有定論。地貌仍在變動，因此對任何商業用途，安全的姿態是「假設問題仍未解」，而非「假設自己已經沒事」。

成本是真實而具體的

我們很容易忘記，一則聊天回覆只是一座非常具體的冰山一角。訓練一個前沿模型會消耗龐大的電力與用於冷卻的水，而把它服務給數百萬使用者，又在此之上加上持續的營運成本。這種環境衝擊集中在那些足跡龐大且不斷成長的資料中心。這一切並不意味著你永遠不該使用這些工具——但它確實反對把大型語言模型當成一個免費、無重量的神諭，拿去問那些計算機或搜尋框能更廉價回答的瑣事。

廉價的文字，昂貴的真相

最深層的社會風險，是關於規模。這些模型讓「生成流暢、量身打造、像真人寫的文字」幾乎變成免費，這意味著大規模不實資訊：垃圾訊息、宣傳、假評論、有說服力的謊言，如今能以比任何人查核都更快的速度被製造出來，再結合合成影像與音訊，助長了侵蝕我們對「何為真實」之共識的深偽（deepfake）。威脅不在於某一個聳動的謊言，而在於一股上漲的潮水，讓整個資訊環境變得更難以信任。

這還有一個較安靜的、個人層面的版本：過度依賴與自動化偏誤，也就是我們傾向於對一台自信的機器投以超過應有的信任、並停止查核。當輸出變得越流暢，把判斷外包出去的誘惑就越大——而我們不再鍛鍊的能力，往往會逐漸消退。風險不只在於被他人的偽造所欺騙，更在於慢慢讓渡掉我們自己的明辨之力。

即便如此，仍要用得好

這一切都不是要人絕望。讓我們得以指認這些失效的那份誠實，也指向負責任的部署：把工具配給那些「它的長處（草擬、轉換、解釋）勝過其短處」的任務，並在任何「出錯會真正付出代價」之處，都保留人類在迴路中（human in the loop）。查證具體主張、保護隱私與受著作權保護的資料、在內容由 AI 生成時加以揭露，並把最耗能的模型留給真正需要它們的工作。