神經倫理、神經權利、能動性與治理
意圖的演算法中介
每個 BCI 輸出都會經過一個詮釋神經活動的統計模型,因此抵達外界的並非原始意圖,而是解碼器對意圖的推論。這種中介無可避免且往往有益——先驗、平滑化與語言模型能提升速度與準確度——但它意味著模型的訓練資料、假設與錯誤形塑了使用者所表達的意志。資料中的偏誤可能系統性地扭曲輸出;強勢的語言先驗可能以一個機率較高的詞句,替換掉使用者原本的意思。
隨著模型變得更具預測性、更樂於助人,此顧慮更形加劇。與大型語言模型耦合的語音神經義肢,可能補完、修正或改寫解碼片段,在提升流暢度的同時,也提高了系統替使用者發言、而非透過使用者發言的風險。治理上的因應包括:以檢視與確認步驟讓使用者留在迴路中、揭露並限制模型的貢獻,以及對解碼器進行偏誤稽核。
在文字或語音 BCI 中,過於積極的語言模型先驗可能把一個模稜兩可的解碼推向統計上最常見的補完——猜對時很有幫助,但猜錯時,選詞的其實是機器而非使用者,這是一種微妙的形式。
語言先驗越強,輔助與代言之間的界線越模糊。
又稱
另見