大型語言模型是什麼
提示與完成(prompt and completion)
提示(prompt)就是你交給模型的東西——你的問題、指示,或一段文字的開頭。完成(completion)則是它回給你的東西——它生成出來的那段接續。如果你打「寫一首關於雨的俳句」,這行字就是提示,後面那三行詩就是完成。你用大型語言模型做的每一件事,本質上都是這組搭配的某種版本。
對模型來說,其實只有一條連續的文字流。它把你的提示讀成上下文,接著不斷預測詞元把它延長下去;我們只是把你寫的那部分叫提示、它產出的那部分叫完成。因為提示是唯一的方向盤,你怎麼措辭會強烈影響答案——把話說好的這門功夫,就叫提示工程。
另见