從「怎麼做」到「該不該做」
在本主題中，我們一直在問機器人如何感知、移動、規劃與學習。最後這篇指南把問題反過來問：不是機器「能不能」做某件事，而是我們「該不該」讓它做、又該怎麼做。機器人早已不再是工廠圍欄後的稀奇玩意兒。它行駛在公共道路上、抬起病人、揀選訂單，或許很快就會走進你的家門。一旦機器在人群之中行動，它的失誤就成了我們的麻煩，它的選擇也映照出我們的選擇。
這些並不是工程做完之後才考慮的次要問題。讓機器人變強的那些設計抉擇——更高的自主性、更快的反應、用學到的行為取代手寫規則——恰恰也決定了它有多安全、多公平、多可問責。倫理，就是從外部審視的工程。
機器人出錯時誰來負責
機器人倫理從一個看似簡單的問題開始：當自主系統造成傷害時，誰該負責？失手的外科醫生要為錯誤承擔責任。但當自動駕駛汽車誤判了正在過街的行人，責任卻被攤得很薄——分散在車廠、軟體供應商、感測器廠商、那位沒看路的安全員、批准上路的監管者，以及打開系統的車主之間。這種模糊有時被稱為「責任缺口」。
有兩個工程理念有助於彌合這道缺口。第一是稽核日誌：能記錄自己感知到什麼、為何如此行動的機器人，讓調查者得以重建失敗過程，而不必靠猜。第二是可解釋性與信任——建構決策可被人審視和質疑的系統，而非只丟出一個結論的黑箱。無法理解的東西，就無法被問責。
自動化與工作的未來
在機器人領域，沒有哪個話題比就業更牽動人心。關於自動化與勞動力替代，誠實的答案既不是「機器人搶走一切工作」，也不是「別擔心，最後總會沒事」。真相更雜亂、也更具體：自動化往往替代的是「任務」而非整個「職業」，而且它落在不同人群與地區頭上的分量極不均勻。
可以分成三類來看。被取代的工作：高度重複、動作可預測的活兒——正是倉儲機器人或工廠自動化單元不知疲倦在做的那種。被改變的工作：從前搬箱子的工人，如今轉去監督、維護並排查那些替他搬箱子的機器，這種轉變要求新技能。被創造的工作：總得有人去設計、安裝、校準與維修機器人——還有許多一代人之前根本不存在的全新工種。
一條更溫和的路徑是「共擔」而非「替代」。協作機器人（cobot）專為與人並肩工作而設計，它接手任務中枯燥或危險的部分，把判斷留給人。更深一層的道理是：結局並非全由技術本身決定。替代究竟變成苦難還是機遇，取決於政策、再培訓以及收益如何分享——這些是社會做出的選擇，而非物理定律。
武器之爭與有意義的人類控制
機器人領域最尖銳的倫理斷層線，是致命性自主武器——能在無人逐次拍板的情況下，自行選擇並攻擊人類目標的系統。核心憂慮並非科幻。它關乎「委託」：把生死之判交給軟體，而軟體無法像人那樣領會情境、意圖與相稱性，還可能以無人預料的方式失靈。
錨定這場國際辯論的一句話，是「有意義的人類控制」：原則上，任何動用武力的決定都必須有人切實留在迴路之中——不是某人在零點幾秒裡給系統的建議蓋個橡皮圖章，而是一個真正掌握態勢、並有權說「不」的人。許多研究者與國家主張：無論自主能力變得多強，這條線都該是一道不可逾越的硬性界限。
有兩個事實值得同時記住。讓搜救機器人在廢墟中找到倖存者的那套感知與規劃，若把矛頭一轉，也能用來鎖定人。技術本身是「軍民兩用」的；倫理則棲身於我們選擇如何部署它、為何而部署。
前沿——以及值得留意的方向
這個領域正駛向何方？有三條線索值得關注。人形機器人——形態大致仿人的機器——正迎來高光時刻，背後是一個賭注：一個為人體打造的世界，或許最適合用一具像我們這樣的身體來服務；再加上從學習中得來的控制，終於讓雙足平衡變得切實可行。人形機器人會成為通用幫手，還是停留為昂貴的新奇玩意兒，是這十年懸而未決的問題。
第二條線索讓機器本身變「軟」。軟體機器人用柔順、可變形的軀體取代剛性連桿與齒輪；而仿生機器人則向動物借招——章魚的抓握、昆蟲的步態。柔軟、能順勢變形的機器人在人身邊天然更溫和，也更善於抓取易碎或形狀古怪的東西——當機器人走出圍欄、進入家庭、醫院與農場時，這一點至關重要。
第三條線索，是「從學習中獲得廣泛能力」。機器人開始從資料中習得技能——從人類示範、從大模型——而不再依賴程式員逐個動作地編寫腳本。這正是重塑了手術機器人、農業機器人與太空與行星機器人的同一條軌跡：它們的成長靠的不是某一次突破，而是感知、控制與自主性一同緩慢成熟。