大型語言模型是什麼
隨機鸚鵡(stochastic parrot)
「隨機鸚鵡(stochastic parrot)」是對大型語言模型一個令人難忘的批評:模型像鸚鵡一樣,把聽過的語言重複、重新拼湊出來,而「隨機」指的是它靠機率來做這件事,帶著一點亂數。這個說法很有挑釁意味——意思是模型能產出流暢、扣題的句子,卻完全不理解這些句子的意思,就像鸚鵡會說「早安」卻不懂什麼是早晨。
這個詞出自一篇 2021 年的論文,警告我們別把「流暢」誤當成「理解」,也別輕忽那些用未經篩選的網路文字訓練、龐大又難以看透的模型所帶來的社會風險。這個批評到底成立到什麼程度,其實是真有爭議的:懷疑者只看到精巧的模式比對,另一些人則指出某些行為看起來像推理與舉一反三。誠實地守住這份張力——既不輕易否定、也不過度宣稱——才是成熟的態度。
另见