我們能否教育機器人做個“好人”？帶著這個想法，英國布里斯托爾機器人實驗室的機器人專家艾倫·溫菲爾德為機器人制造了一個道德陷阱，而接下來，機器人的反應則令人震驚。

　　在一個實驗中，溫菲爾德和他的同事為機器人設(shè)定了一個程序：阻止其他擬人機器人掉進洞里。這是艾薩克·阿西莫夫（美國著名的科幻小說家）提出的機器人三大定律之一——機器人必須防止人類受傷害——的簡版。

　　一開始，機器人還能順利完成任務(wù)：當擬人機器人向洞口移動時，機器人會沖上前去將其推開，防止其掉到洞里。隨后，研究小組又添加了一個擬人機器人，兩個擬人機器人同時向洞口移動，救人機器人則要被迫做出選擇。有時，它成功地救了一個“人”，而另一個掉進了洞里；有幾次，它甚至想要兩個都救；然而在33次測試中，有14次因為在救哪一個的問題上不知所措而浪費了時間，以至于兩個“人”都掉進了洞里。研究人員于9月2日在英國伯明翰召開的“邁向自主機器人系統(tǒng)”會議上向世人展示了他們的實驗。

　　溫菲爾德形容他的機器人是“道德僵尸”，雖然根據(jù)設(shè)定的行為程序，它可以對他人進行施救，但它根本不理解這種行為背后的原因。溫菲爾德說，他曾經(jīng)認為讓機器人自己做出道德倫理選擇是不可能的。現(xiàn)如今，他說：“我的答案是：我不知道。”

　　隨著機器人日益融入我們的日常生活，這一問題也需要答案。例如一輛自動駕駛汽車，某天或許要在保全車內(nèi)人員安全和給其他駕駛員或行人造成傷害這一風險之間進行權(quán)衡。或許很難給機器人設(shè)置處理這種情況的相應程序。

　　然而，為軍事戰(zhàn)爭設(shè)計的機器人或許能夠為我們提供解決這一問題的初步答案。佐治亞理工學院的計算機科學家羅納德·阿金專門針對名為“道德監(jiān)督員”的軍事機器人研制了一套運算法則，這套運算法則可幫機器人在戰(zhàn)場上做出明智的抉擇。阿金已經(jīng)在模擬戰(zhàn)斗中進行了測試，結(jié)果顯示，安裝這種程序的機器人能夠選擇不開槍，且在戰(zhàn)斗過程中，能夠在學校和醫(yī)院等戰(zhàn)爭條例規(guī)定的受保護區(qū)域附近盡量減少人員傷亡。

　　阿金說：“戰(zhàn)爭法則已有千年歷史，人類會受情感因素影響而打破規(guī)矩，機器人則不會。”