致命性自主武器

致命性自主武器，是一種能夠自行搜索、選擇並打擊人類目標的武器，在它開火的那一刻，無需由人來做決定。劃分的界線，在於由誰做出最終的「殺」這一決定。一名士兵朝自己選定的目標發射的制導導彈，在這個意義上不算自主，因為是人在選。而一架無人機在某片區域巡邏、自行判定下方哪個身影是敵人、然後開火——這個環節裡沒有人——它就是自主武器。這場爭論背後的恐懼，正是這最後一步：一台機器在沒有任何人點頭的情況下，結束了一條生命。

爭論的核心，凝結成一個短語：有意義的人類控制。許多政府、科學家和人權組織堅持，使用致命武力的任何決定，都必須有一個人真正地掌控——不只是盯著螢幕看，而是能理解局勢、並真正地作出選擇。這項技術的辯護者則回應說，機器在理論上可以比驚慌失措的人更快、甚至更精準，還可能保住己方士兵的性命。批評者反駁道，機器無法權衡「相稱性」與「仁慈」，無法在道德上被追責，還可能讓戰爭更容易爆發、擴散得比任何人所能勒住的速度都快。

正因如此，致命性自主武器主要是一個「治理」問題——是國家之間約定的規則問題。目前還沒有一項全球性條約禁止它們，而聯合國層面的討論進展緩慢，與此同時，底層的機器人與人工智慧技術卻一直在向前推進。更深的憂慮，是一道「問責的缺口」：如果一件自主武器殺錯了人，到底由誰來回答，其實並不清楚——是指揮官、是編程者、是製造商，還是無人負責——而一樁無人能為之負責的錯事，是一種危險的東西，不該被造出來。