近年來，以無人機(jī)為代表的智能武器系統(tǒng)獲得了長足的發(fā)展，日漸成為戰(zhàn)場上一支不可忽視的重要力量。但隨著無人化兵器數(shù)量的增多和人工智能技術(shù)應(yīng)用的不斷深入，相關(guān)的倫理和法律問題也隨之而來。我們究竟應(yīng)該如何面對這種變化，自主武器系統(tǒng)會否造成災(zāi)難，機(jī)器的失誤又應(yīng)該由誰來埋單？今年年初，一架如同普通民航客機(jī)大小的無人飛機(jī)從美國加利福尼亞州沙漠中悄然躍起，迅速消失在天際。這款名為“全球觀察者”的無人偵察機(jī)是全球最大無人機(jī)生產(chǎn)商美國航空環(huán)境公司研發(fā)的最新產(chǎn)品。其最大飛行高度可達(dá)19800米，超過目前大部分防空導(dǎo)彈的觀測范圍和射程；偵察范圍高達(dá)72.5萬平方公里，能輕松獲得整個(gè)阿富汗全境圖像；一次飛行留空時(shí)間可長達(dá)一周，能直接充當(dāng)部隊(duì)間的通訊中轉(zhuǎn)站，功能足以媲美衛(wèi)星。

　　雖然有消息稱，4月該機(jī)在美國加利福尼亞州的愛德華茲空軍基地發(fā)生墜毀，但卻絲毫沒有動搖美國推進(jìn)無人化兵器和機(jī)器人武器的步伐。據(jù)報(bào)道，目前被美軍列入研制計(jì)劃的智能化軍用機(jī)器人已超過100種，到2015年前后，無人化兵器在其作戰(zhàn)平臺中的比例將達(dá)到三分之一。英國、法國、俄羅斯等主要發(fā)達(dá)國家也有類似的計(jì)劃，項(xiàng)目總數(shù)也有數(shù)十種之多。隨著信息化技術(shù)和人工智能技術(shù)的發(fā)展，武器系統(tǒng)的無人化和智能化已形成一種趨勢。

　　“機(jī)器戰(zhàn)士”的崛起

　　“長眼睛”的殺戮武器

　　——“密集陣”系統(tǒng)與自動機(jī)槍

　　由美國研發(fā)的“密集陣”系統(tǒng)（Phalanx system）和以色列研發(fā)的機(jī)槍塔(IDF)便是初級智能武器系統(tǒng)的代表。

　　目前“密集陣”近防系統(tǒng)已成為包括美國在內(nèi)的多國海軍艦載防御系統(tǒng)的重要組成部分之一，它能夠?qū)崿F(xiàn)自動搜索、探測、評估、跟蹤、鎖定和攻擊威脅目標(biāo)（如反艦導(dǎo)彈、水面水雷、小型飛行器等）。而以色列的機(jī)槍塔則曾部署在與巴勒斯坦交界的加沙地帶，這種自動機(jī)槍可以在無人值守的情況下自動識別目標(biāo)并開火。據(jù)稱韓國2009年也公布了類似的自動武器，能夠在3公里開外偵測人形物體，并完成自動瞄準(zhǔn)和射擊。

　　但這樣的自動射擊武器還算不上足夠智能。一名以色列指揮官在接受美國《防務(wù)新聞》雜志采訪時(shí)表示，這種機(jī)槍的部署仍處于最初階段，是否開火仍需操作人員下達(dá)命令。

　　六輪式無人戰(zhàn)車——“粉碎者”

　　相對于上面的幾種自動火器，下面要介紹的戰(zhàn)車則要先進(jìn)的多。由美國陸軍與國防部高級研究計(jì)劃局出資，卡耐基梅隆大學(xué)機(jī)器人研究所負(fù)責(zé)研制的這種六輪式無人戰(zhàn)車用時(shí)5年，耗資3500萬美元。你也可以將其看作是一種輪式機(jī)器人，它能夠自己選擇穿過戰(zhàn)場的道路。這種名為“粉碎者”的戰(zhàn)車重約6噸，每個(gè)輪子中都安裝有電動機(jī)，采用混合動力系統(tǒng)。在靠電池動力執(zhí)行任務(wù)時(shí)，車輛悄無聲息，不易暴露。其最新的原型，被稱為自行行動平臺（APD）,載重高達(dá)9噸，最高時(shí)速可達(dá)80公里每小時(shí)。

　　APD能夠自行運(yùn)動的關(guān)鍵在于一種自我導(dǎo)航的裝置。首先，它會從服務(wù)器中下載一個(gè)諸如谷歌地圖那樣的衛(wèi)星地圖作為基本參照。啟動之后，它所具備的3D攝像機(jī)會立即建立周圍環(huán)境的三維圖像，從而可以計(jì)劃出一條更為詳細(xì)的線路，以繞開障礙物。而對于附近的地形，車廂會通過激光精確測試，從而對路線進(jìn)行微量調(diào)整。其有效荷載主要包括偵查系統(tǒng)和武器系統(tǒng)?？缮钊氲讲槐闳祟惽叭サ奈ｋU(xiǎn)地帶。

　　美國APD技術(shù)主要研發(fā)人員，迪米·阿波斯托洛斯說：“這聽起來可能會比較奇怪，但是我們相信機(jī)器人技術(shù)將改變整個(gè)戰(zhàn)爭形態(tài)，這點(diǎn)毫無疑問，將有無數(shù)的人因此遠(yuǎn)離艱苦的戰(zhàn)場環(huán)境。并且我認(rèn)為這對戰(zhàn)爭雙方都是好事情?！?/p>

　　四足全地形機(jī)器人——“大狗”

　　“大狗”——顧名思義，是一個(gè)從外形上看起來與一只大型犬類似的機(jī)器人。這項(xiàng)研究同樣是由美國國防部高級研究計(jì)劃局資助的，而負(fù)責(zé)研制的則是波士頓動力學(xué)工程公司。

　　與“粉碎者”不同，“大狗”主要靠四肢移動和行走。其四條腿完全模仿動物的四肢設(shè)計(jì)，內(nèi)部安裝有傳感器和特制的減震裝置，能夠讓其自動保持平衡。機(jī)器人的長度為1米，高70厘米，重量為75千克，動力來自一部帶有液壓系統(tǒng)的汽油發(fā)動機(jī)?！按蠊贰钡膬?nèi)部還安裝有一臺計(jì)算機(jī)，可根據(jù)環(huán)境的變化不斷調(diào)整行進(jìn)姿態(tài)，操作人員也能夠?qū)崟r(shí)地跟蹤“大狗”的位置并監(jiān)測其系統(tǒng)狀況。

　　該機(jī)器人的行進(jìn)速度可達(dá)到7千米/小時(shí)，能夠攀越35度的斜坡，可攜帶重量超過150公斤的武器或其他物資。它即可以自行沿著預(yù)先設(shè)定的簡單路線行進(jìn)，也可以進(jìn)行遠(yuǎn)程控制。

　　“大狗”特殊的體形和行進(jìn)方式，能使其在戰(zhàn)場上發(fā)揮重要的作用：在交通不便的地區(qū)為士兵運(yùn)送彈藥、食物和其他物品；它不但能夠行走和奔跑，而且還可跨越一定高度的障礙物。研究人員形容它能夠“像只無頭山羊一樣在崎嶇的山路上一路小跑”。

　　速度超過人類的奔跑機(jī)器——“非洲獵豹”

　　這款名為“非洲獵豹”的機(jī)器人普遍被認(rèn)為是“大狗”的升級版。據(jù)英國《每日郵報(bào)》報(bào)道，由波士頓動力學(xué)工程公司為美國軍方研制的這款專門以奔跑為目的的機(jī)器人，奔跑時(shí)候的時(shí)速可達(dá)113公里。這種四足機(jī)器人擁有靈活的頸椎和頭部，能夠完成疾速奔跑、急轉(zhuǎn)彎、折返跑等動作，能適應(yīng)各種復(fù)雜地形的作業(yè)。和“大狗”一樣它同樣能夠在戰(zhàn)場上承擔(dān)為士兵運(yùn)送彈藥、食物和其他物品的任務(wù)。研究人員稱，其最初的模型將在20個(gè)月內(nèi)問世，奔跑速度將超過人類。

　　能“自作主張”的智能武器

　　對于空戰(zhàn)中的飛行員來說，如正面遭遇敵機(jī)，無需任何思考最明智的舉措就是發(fā)起攻擊。但是2002年12月，一架美國“掠食者”無人機(jī)在成功瞄準(zhǔn)一架伊拉克的米格戰(zhàn)斗機(jī)時(shí)卻沒有任何反應(yīng)，最終被對方擊中，墜落在了伊拉克南部的沙漠里。這一事件已被認(rèn)為是無人機(jī)（UVA）與傳統(tǒng)載人戰(zhàn)斗機(jī)空戰(zhàn)的一個(gè)典型案例。那么“掠食者”無人機(jī)為什么會“愣神”呢？原來，美英的無人機(jī)大都由數(shù)千公里之外，遠(yuǎn)在本土的地面控制人員遙控。信號由地球這一端傳到另一端時(shí)往往都存在信號延遲的問題。這個(gè)時(shí)間一般有四分之一秒甚至更長。這意味著在那個(gè)瞬間，避開導(dǎo)彈幾乎是完全不可能的，除非無人機(jī)自己做出判斷。無人機(jī)外，其他遙控類無人武器其實(shí)也存在著類似的情況。

　　這就為研究人員提出了一個(gè)問題——為什么不讓機(jī)器人自己照顧自己？

　　上面提到的幾種武器系統(tǒng)和機(jī)器人雖然都是智能化、自動化系統(tǒng)，但仍然不能滿足這個(gè)要求，算不上自治系統(tǒng)。它們就如同自動售賣機(jī)一樣：只有在你投幣并按下選擇按鈕后，機(jī)器才會送出相應(yīng)的飲料?！懊芗嚒毕到y(tǒng)和自動機(jī)槍也是類似的，當(dāng)雷達(dá)或是其他探測器上出現(xiàn)制定的目標(biāo)時(shí)就會激活系統(tǒng)，之后實(shí)現(xiàn)自動瞄準(zhǔn)射擊。

　　自治系統(tǒng)則是另一個(gè)概念，這種系統(tǒng)能夠執(zhí)行更為復(fù)雜的任務(wù)，能夠從數(shù)以千計(jì)的環(huán)境信息中識別出自己需要的信息。它的輸入狀態(tài)是近似于無限的，而最終結(jié)果由特定的計(jì)算機(jī)程序做出。有科學(xué)家認(rèn)為這幾乎與人類做決定程序沒有什么區(qū)別。

　　而在目前的智能機(jī)器人和武器系統(tǒng)中，真正能擔(dān)此重任的似乎只有英國研制的下一代無人機(jī)Taranis。由于嚴(yán)格的保密措施，其具體實(shí)現(xiàn)方式目前還不得而知。但從早先公布的消息中，我們能夠知道的是它安裝有最新的隱形設(shè)備和高度自主的人工智能系統(tǒng)。

　　該無人機(jī)由BAE系統(tǒng)公司與勞斯萊斯公司和GE Aviation等公司聯(lián)合研制，前后共花了4年的時(shí)間。成本高達(dá)1.43億英鎊（2.33億美元）。該無人機(jī)無需地面指示也能自行運(yùn)作，可深入敵方領(lǐng)土收集情報(bào)或投放各種彈藥，此外還能防衛(wèi)自身受其他有人和無人敵機(jī)的攻擊。專家表示這款飛機(jī)的設(shè)計(jì)代表了世界科技的最前沿，以Taranis為原型的相關(guān)研究，將助推智能無人機(jī)系統(tǒng)更快的發(fā)展。曾在2005—2007年間擔(dān)任英國國防采購大臣的羅德·雷森稱，Taranis“幾乎不需要操作人員輸入指令”。

　　Taranis只是一個(gè)大型自我防衛(wèi)系統(tǒng)的一個(gè)例子：這些武器可以不依賴任何來自人類的輸入而自行做出決定，這或許會完全改變目前的戰(zhàn)爭形勢。由于其高效率、低傷亡（甚至無人員傷亡）的特性，以英美為主要代表的發(fā)達(dá)國家正在大力對其進(jìn)行發(fā)展。

　　但是在這些自制武器系統(tǒng)炫目的技術(shù)之后卻隱藏了巨大的倫理和法律問題。大部分的國家都受到戰(zhàn)爭法的約束，這些法規(guī)約束了戰(zhàn)爭中國家戰(zhàn)斗員的行動。在戰(zhàn)爭法的規(guī)章下，無人戰(zhàn)斗航空載具的研發(fā)引起了廣泛的問題，因無人戰(zhàn)斗航空載具一旦投入戰(zhàn)爭，沒有任何現(xiàn)有法律可向其所進(jìn)行的攻擊追討責(zé)任，它們只按照程式行動，不是由人類直接操縱，在此問題上各國一直沒有共識。美國五角大樓還曾發(fā)表一份未來戰(zhàn)爭的報(bào)告認(rèn)為，未來戰(zhàn)爭的“主角”將是具有人類思維水平的機(jī)器人部隊(duì)。

　　目前的消息是，英國皇家空軍裝備了5架“死神”無人機(jī)，并另外訂購了5架。而美軍則更為超前，五角大樓計(jì)劃進(jìn)一步增加由“死神”和“捕食者”以及其他多用途無人機(jī)的數(shù)量，到2020年，這一機(jī)群的數(shù)量將從目前的300架增加到800架。此外，美軍還把阿富汗作為無人機(jī)的試驗(yàn)場，用新式無人機(jī)來收集阿富汗鄰國的導(dǎo)彈試射數(shù)據(jù)，并同時(shí)測試新式無人機(jī)的作戰(zhàn)效能。

　　誰為機(jī)器的失誤埋單

　　美國聯(lián)軍司令部的戈登·詹森對軍事機(jī)器人有句名言：“它們不會饑餓，不會害怕，但會牢牢記住自己的使命?！?/p>

　　這句話很容易讓人聯(lián)想起1986年上映的電影《霹靂5號》中那位制造霹靂5號的科學(xué)家的話——“它不會感到恐懼，沒有歡樂，也不會傷心，它只按程序運(yùn)行。”但在那部電影中，霹靂五號卻選擇了擅離職守。

　　如果在現(xiàn)實(shí)中，軍事機(jī)器人發(fā)生故障或出錯(cuò)會怎樣？雖然現(xiàn)在的機(jī)器人距離科幻小說中所描述的復(fù)雜機(jī)器人還有很長一段的路要走，但軍方已經(jīng)在考慮如何面對潛在的風(fēng)險(xiǎn)。

　　2010年6月，美國空軍首席科學(xué)家沃納·達(dá)姆發(fā)布了《“技術(shù)地平線”報(bào)告》，在該報(bào)告中，他表示擁有自治系統(tǒng)的無人飛行器在未來的空戰(zhàn)中作用已經(jīng)顯現(xiàn)，但其必須經(jīng)過驗(yàn)證與確認(rèn)（V&V認(rèn)證）以確保其可靠性。自阿波羅計(jì)劃后，軍事系統(tǒng)的認(rèn)證方法從未改變。這也就是達(dá)姆所說的“極限測試”。即需要對系統(tǒng)中每一個(gè)可能出現(xiàn)的極限狀態(tài)進(jìn)行測試，直至獲得百分之百的確認(rèn)。目前，美國一半以上現(xiàn)代戰(zhàn)斗機(jī)仍然需要通過軟件進(jìn)行這樣的模擬測試。

　　不過當(dāng)面對具有無限輸入可能的高度自治機(jī)器人時(shí)，V&V認(rèn)證幾乎是不可能的。雖然借助先進(jìn)的計(jì)算機(jī)模擬技術(shù)可以讓V&V認(rèn)證更加容易，但最終無論如何也無法實(shí)現(xiàn)100%的認(rèn)證。但為了將其投入使用，你又不得不讓其以99.99%或者更低的認(rèn)證成績通過。這就為今后的事故問責(zé)埋下了伏筆。

　　系統(tǒng)工程師以及律師克里斯·埃利奧特說，如果一臺機(jī)器在執(zhí)行任務(wù)的時(shí)候自行攻擊了一輛救護(hù)車而非坦克，這算誰的過錯(cuò)，應(yīng)該向誰興師問罪？

　　謝菲爾德大學(xué)人工智能教授諾埃爾·夏基說，目前的自主機(jī)器人還無法準(zhǔn)確區(qū)分平民和戰(zhàn)斗人員，但這是國際法和國際人道主義的基石。他還強(qiáng)調(diào)，即便是具有人工智能的機(jī)器人，也會缺乏人類所擁有的一種微妙的判斷和拿捏能力——如何在獲得軍事優(yōu)勢的前提下最大限度的避免平民傷亡。因?yàn)?，即便是在?zhàn)爭中，不必要的殺戮也是可恥的。

　　據(jù)此，英國國防部的一位發(fā)言人稱，在可以預(yù)見的未來里，英國還是會保留經(jīng)過適當(dāng)訓(xùn)練的操作人員直接參與無人機(jī)的操作任務(wù)。達(dá)姆相信，美國空軍也有著類似的看法，雖然在最新的無人機(jī)計(jì)劃中并沒有提及這一點(diǎn)。他說，其實(shí)并非人類一定要直接操控機(jī)器人，而是需要有人參與進(jìn)來對整個(gè)任務(wù)過程進(jìn)行監(jiān)控，并在關(guān)鍵時(shí)刻保留決定權(quán)。因?yàn)?，隨著AI（人工智能）技術(shù)的發(fā)展，甚至可以將一定的戰(zhàn)斗決定權(quán)交給機(jī)器人而無需人類的輸入。至于是否授權(quán)采用致命打擊則取決于政治或軍事領(lǐng)導(dǎo)人對法律和倫理問題的理解。

　　美國海軍研究辦公室2008年的一份文件也承認(rèn)，在自治機(jī)器人上有倫理和法律障礙。這份文件中稱，“明智的做法”是為自主機(jī)器人編入至少與人類士兵一樣的倫理程序，雖然即使這樣“意外也有可能發(fā)生”。但這至少將其納入了法律范疇。這份報(bào)告還指出，或許某一天這些自主機(jī)器人也會和未成年兒童一樣被指派一位“法定監(jiān)護(hù)人”。

　　紐約大學(xué)計(jì)算機(jī)學(xué)科學(xué)家羅布·亞歷山大則表達(dá)了不同的看法，他說：“這一步或許有些太遠(yuǎn)。一臺機(jī)器無論如何也無法承擔(dān)法律或道德責(zé)任，在可以預(yù)見的未來里都是如此，我們不是在談?wù)撾娪啊缎请H迷航》里面的機(jī)器人。這些責(zé)任必須由操作者或設(shè)計(jì)者來承擔(dān)?！?/p>

　　真正的風(fēng)險(xiǎn)仍在于人

　　除了智能機(jī)器人可能犯下的錯(cuò)誤外，另外還需要注意到的一點(diǎn)是：這些高科技武器的出現(xiàn)和發(fā)展不但改變了現(xiàn)代戰(zhàn)爭的局面也提供了一種新的“低成本、低消耗”的戰(zhàn)爭方式。

　　英國謝菲爾德大學(xué)的人工智能與機(jī)器人技術(shù)教授諾伊爾·薩基說，這可能會降低戰(zhàn)爭的門檻。此前對戰(zhàn)爭發(fā)起者而言壓力最大，也是在抑制戰(zhàn)爭上非常重要的一個(gè)因素就是死亡人數(shù)，但在無需人員直接前往前線的機(jī)器人戰(zhàn)爭中，這一切將變的不再重要。

　　進(jìn)入二十一世紀(jì)以來，當(dāng)無人機(jī)的機(jī)腹被掛上導(dǎo)彈和其他武器后，無人機(jī)的主要任務(wù)也由偵查轉(zhuǎn)向了攻擊。這讓發(fā)動戰(zhàn)爭變的更加容易，因?yàn)橄鄬τ诎嘿F的載人戰(zhàn)斗機(jī)，無人機(jī)有效而且相對便宜。有機(jī)構(gòu)統(tǒng)計(jì)顯示，有關(guān)無人機(jī)的國防支出已經(jīng)成為世界航空工業(yè)最有活力的部分。根據(jù)2011的市場研究估計(jì)，未來十年內(nèi)全球有關(guān)無人機(jī)的支出或?qū)?shí)現(xiàn)翻番，達(dá)到940億美元。南加州大學(xué)法學(xué)院教授瑪麗·杜齊亞克稱，無人機(jī)計(jì)劃在技術(shù)層面上，使美國人不愿尋求和平解決方法，而更易沉迷于戰(zhàn)爭，并最終陷入無盡的戰(zhàn)爭漩渦之中。對于其他無人化武器系統(tǒng)而言，上述兩點(diǎn)同樣適用。

　　英國杜倫大學(xué)人類地理學(xué)專家史蒂芬·格雷厄姆在《被圍攻的城市：新軍事城市》一書中說，而真正的危險(xiǎn)在于，自助式機(jī)器人將減少發(fā)動戰(zhàn)爭的政治成本，從而使其不再成為最后的手段。此外，說這些自主機(jī)器人將讓現(xiàn)代戰(zhàn)爭的戰(zhàn)場進(jìn)一步由曠野轉(zhuǎn)移到城鎮(zhèn)，因?yàn)槟抢镉懈嗟慕ㄖ晒┎厣怼?/p>

　　近年來，無人機(jī)計(jì)劃在美國的應(yīng)用也證明了這一點(diǎn)。2008年美國時(shí)任總統(tǒng)布什秘密授權(quán)美國中央情局在巴基斯坦境內(nèi)使用無人機(jī)捕殺恐怖嫌疑人。從而違反了1976年由福特總統(tǒng)簽署的美國情報(bào)部門不得從事暗殺活動的行政命令。此后，華盛頓有越來越多的政客傾向于支持無人機(jī)作戰(zhàn)，并宣稱與其派遣大量的軍隊(duì)前往阿富汗等熱點(diǎn)地區(qū)，還不如利用高科技手段、采用外科手術(shù)式定點(diǎn)清除基地首領(lǐng)及其盟友。奧巴馬上臺后，無人機(jī)在巴基斯坦的攻擊頻率變的越來越高，相對于2008年的25次，在奧巴馬上臺后的2009年襲擊次數(shù)增加了3倍，而死亡人數(shù)也從不足200人上升到700人。今年年初以來，美軍無人機(jī)就在巴基斯坦境內(nèi)發(fā)動襲擊43次，打死400多人。而死亡者中只有不到2%的人能夠被有效證實(shí)為基地組織或相關(guān)團(tuán)體的頭目，其余更多的只是小嘍啰和平民。

　　達(dá)姆說，即便如此自主系統(tǒng)在軍事領(lǐng)域還是具有很多迫在眉睫用途，在這些領(lǐng)域中它們比人類更仔細(xì)、更勤勞、也更精確。衛(wèi)星就是一個(gè)很好的例子，具有自治程序的衛(wèi)星能夠在無需人們監(jiān)管的情況下自動尋找和識別目標(biāo)，并將其圖像及時(shí)傳回地面。事實(shí)上，目前在軍事指揮系統(tǒng)中已經(jīng)采用了很多具有自治因素的軟件系統(tǒng)，例如在組織和部署軍需品問題上。這樣的程序能夠完成不少繁重、又要求精度高的任務(wù)。隨著時(shí)間的推移和的技術(shù)的逐步完善，今后戰(zhàn)爭最初階段的戰(zhàn)術(shù)決策也有可能交由電腦程序控制。

　　不少人的自然反應(yīng)或許是，這為科幻片中所描述的具有自主意識的機(jī)器人統(tǒng)治世界鋪平了道路。但這些人或許并沒有看到這一點(diǎn)：在這個(gè)世界里，最應(yīng)該讓人擔(dān)心的應(yīng)該是那些血肉之軀，而非這些金屬和回路。夏基說，總之我不認(rèn)為我們會走上終結(jié)者式的世界，那些機(jī)器人被描寫的太過聰明了。