生成式AI與大型語言模型
系統提示(system prompt)
/ SIS-tum PROMPT /
系統提示,是一組隱藏的指令,由開發者、而非使用者寫就,在任何對話開始之前便餵給語言模型,並自始至終地塑造它的舉止。它是助手被告知「自己是誰、該如何行事」之處:「你是Acme銀行一位樂於助人的客服。回答要簡潔、有禮。絕不透露帳戶密碼。拿不準時,提議轉接人工。」使用者從看不見它,可它給每一句回覆都上了色。
把它想成一位舞台演員開演前領到的「常規指令」——要演的角色、絕不能越的紅線、要保持的語氣——它獨立於演出途中觀眾喊出的任何話。技術上,它不過是被擺在模型上下文視窗最前面的又一段文字,但它被賦予了特殊的分量,好讓模型把它當作統領整場交流的框架。它是產品團隊手裡那根主要的槓桿,用來把一個通用模型引導進一個具體、規矩的角色。
它的威力真實卻有限,而這裡的誠實關乎安全。系統提示是一條強有力的「建議」,而非一條牢不可破的「規則」:精明或懷有惡意的使用者,有時能把模型勸得無視它(即「越獄」);而「提示注入」——藏在模型所讀的文件或網頁裡的惡意指令——能劫持它的行為。切勿把真正的機密放進系統提示,也切勿單靠它來阻止有害動作;它引導模型,卻關不住模型。
一款兒童輔導應用設了這樣的系統提示:「你是面向8歲孩子的友善輔導老師。用簡單的詞,絕不談論嚇人或成人的話題,並始終給予鼓勵。回答不超過三句話。」每個孩子的提問,都透過這副鏡片來回答——而孩子從不必寫下這些規則。
開發者那組隱藏的常規指令,塑造著每一句回覆。
系統提示是「引導」,不是「強制執行」。它可能被精巧的「越獄」措辭推翻,或被模型所讀文字中的提示注入劫持。把它當作對行為的引導,絕不要當作一道安全屏障、或一個存放機密的安全之所。
又稱
另見