美軍專家警告:機器人程序可能發(fā)生變異,建議為軍事機器人設定道德規(guī)范,否則全人類將付出生命代價。
毫無疑問,未來戰(zhàn)爭中,自動機器人士兵將成為作戰(zhàn)的絕對主力。但是美國海軍研究室帕特里克·林博士近日在關于機器人士兵的研究報告《自動機器人的危險、道德以及設計》中,對美國軍方使用機器人提出警告,建議為軍事機器人設定道德規(guī)范。研究人員認為,必須對軍事機器人提前設定嚴格的密碼,否則整個世界都有可能毀于他們的鋼鐵之手。
軍事機器人已足夠聰明
報告中表示,為軍事機器人設定道德規(guī)范是一項嚴肅的工作,人類必須正視快速發(fā)展的機器人,它們足夠聰明,甚至最后可能展示出超過現(xiàn)代士兵的認知優(yōu)勢。
帕特里克·林博士在報告中說:“現(xiàn)在存在一個共同的誤解:認為機器人只會做程序中規(guī)定它們做的事情?刹恍业氖牵@種想法已經(jīng)過時了,一個人書寫和理解程序的時代已經(jīng)一去不復返了!绷植┦空f,實際上,現(xiàn)在的程序大都是由一組程序師共同完成的,幾乎沒有哪個人能完全理解所有程序。因此,也沒有任何一個人能精確預測出這些程序中哪部分可能發(fā)生變異。
如何能夠保護機器人士兵不受恐怖分子、黑客的襲擊或者出現(xiàn)軟件故障呢?如果機器人突然變得狂暴,誰應該負責呢,是機器人的程序設計師還是美國總統(tǒng)?機器人應該有“自殺開關”嗎?林暗示說,唯一解決這些問題的辦法就是提前為機器人設定“密碼”,包括倫理道德、法律、社會以及政治等因素。
警告程序師不要急于求成
報告還指出,現(xiàn)今美國的軍事機器人設計師往往急于求成,常常會將還不成熟的機器人技術急匆匆推入市場,促使人工智能的進步在不受控制的領域內(nèi)不斷加速發(fā)展。更糟糕的是,目前還沒有一套控制自動系統(tǒng)出錯的有效措施。如果設計出現(xiàn)錯誤,足以讓全人類付出生命的代價。
設計師的這種心理原因可能與美國國會的命令有關。美國國會規(guī)定:到2010年前,三分之一的“縱深”打擊行動必須由機器人完成;到2015年前,三分之一的地面戰(zhàn)斗將使用機器人士兵。
機器人軍團正在組建
成本是士兵的10%,可降低士兵傷亡率達60%至80%
目前,一些國家正在組建機器人部隊。一些軍隊的機器人已開始執(zhí)行偵察和監(jiān)視任務,替代士兵站崗放哨、排雷除爆。英國謝菲爾德大學計算機系教授夏基認為,機器人的成本僅是士兵的1/10,它替人類廝殺疆場的場景,將有可能在10年內(nèi)變成現(xiàn)實。目前,世界已在不知不覺中滑進了機器人軍備競賽;而研制出能夠決定在什么時候以及向誰動用致命武力的機器人,也許就在今后10年之內(nèi)。
數(shù)千機器人服役美軍
2004年美軍僅有163個地面機器人。2007年則增長到5000個,至少10款智能戰(zhàn)爭機器人在伊拉克和阿富汗“服役”。
部署到阿富汗的智能機器人“赫耳墨斯”主要用于探穴鉆洞,它身上安裝有兩個照相機,能爬進漆黑洞穴并向外發(fā)送圖片;美軍機器人“劍”在伊拉克戰(zhàn)場更是神通廣大,它能輕易通過任何阻礙,備彈200發(fā),裝備一挺經(jīng)改造的M249型機槍,射速高達1000發(fā)/分鐘,火力強度足以與一挺重機槍媲美;而“背包”機器人則能在巷戰(zhàn)環(huán)境中捕捉、分辨反美武裝狙擊手的細微動靜;“嗅彈”機器人能靈敏地嗅出偽裝起來的爆炸物;名為“仿生蒼蠅”的機器人則可做一些復雜的手術……
美國投入千億研究費
五角大樓的決策者們開始認同,10年內(nèi)智能戰(zhàn)爭機器人將成為美軍未來主要戰(zhàn)斗力。為此投入了美國歷史上最大的單筆軍備研究費1270億美元,以完成未來戰(zhàn)場上士兵必須完成的一切戰(zhàn)斗任務,包括進攻、防護、尋找目標。創(chuàng)意很簡單:未來戰(zhàn)場上,一個機器人士兵發(fā)現(xiàn)目標,然后向指揮所匯報,之后由另一個機器人士兵(或導彈)摧毀目標。
據(jù)悉,美軍未來一個旅級作戰(zhàn)單元,將至少包括151個機器人戰(zhàn)士。為了驗證這支智能戰(zhàn)爭機器人隊伍的作戰(zhàn)能力,美陸軍第29步兵團2007年舉行了一場“機器人戰(zhàn)爭演習”:整支機器人作戰(zhàn)兵團由18種執(zhí)行不同任務的機器人組成,每名機器人與戰(zhàn)場上各種陸、空作戰(zhàn)平臺及傳感器連接在一起。戰(zhàn)斗打響后,地面機器人充當先鋒,當隱藏著的敵人攻擊它時,空中的無人駕駛偵察機發(fā)現(xiàn)敵軍位置,通知巡航中的無人駕駛智能戰(zhàn)斗機,然后智能戰(zhàn)斗機發(fā)射導彈命中目標。所有戰(zhàn)術行動都由智能戰(zhàn)爭機器人自行完成。據(jù)估算,這支機器人作戰(zhàn)部隊將使戰(zhàn)斗時間縮短一半,而美軍士兵傷亡率降低60%-80%。美軍事專家稱,到2015年半數(shù)美軍將是機器人,而另一半是普通人類士兵。
機器人軍備競賽正展開
目前,俄羅斯、英國、德國、加拿大、日本、韓國等已相繼推出各自的機器人戰(zhàn)士,預計在不久的將來,還會有更多的國家會投入到這項新戰(zhàn)爭機器的研制與開發(fā)中去。
英國專家日前發(fā)出警告,隨著世界上多個國家不顧法律和道德后果加緊開發(fā)軍用機器人,一場機器人軍備競賽正在展開。英國設菲爾德大學科學家諾埃爾·夏基說,他對美國等國提出的軍用機器人計劃進行研究后感到“很害怕”。他最擔心的是,機器人今后將自己決定何時“扣動扳機”,而“機器人對于為什么要這樣做沒有判斷能力”。夏基建議,各國政府和機器人研究者應重新考慮目前的研發(fā)計劃。
相關:
駐伊美軍機器人“叛亂”
去年正式部署前線僅11小時后便被召回
去年,曾有3臺帶有武器的“劍(SWORDS)”式美軍地面作戰(zhàn)機器人被部署到了伊拉克,但是這種遙控機器人小隊還未開一槍就很快被從戰(zhàn)場撤回——因為它們做了可怕的事情:將槍口對向它們的人類指揮官。
美陸軍地面作戰(zhàn)指揮官凱文·法赫去年5月證實,這些機器人的“槍管在操作者未發(fā)指令的時候自己移動”,也就是說,“劍”式機器人工作時將槍口指向友軍部隊。而這也導致了這支機器人部隊在正式部署前線僅11小時后便被召回。
法赫證實機器人并未開火,也無任何人類在此次事件中傷亡。但這并不意味著零損失,所有關于機器人作戰(zhàn)的研究項目都可能因此取消。法赫稱:“一旦遇到如此嚴重的事變,我們必須花上10年乃至20年,推倒重來!币虼,我們必須再等上很久才能看到機器人和人類并肩作戰(zhàn)了。
這不僅僅對于機器人工業(yè)是重大損失,而且也樹立了一個重要先例:關于機器人的任何試驗都必須以無人類傷亡為絕對前提。也許對一切事故的極度厭惡,終將導致此領域的任何創(chuàng)新都步履維艱。
銆?a href="/common/footer/intro.shtml" target="_blank">鍏充簬鎴戜滑銆?銆? About us 銆? 銆?a href="/common/footer/contact.shtml" target="_blank">鑱旂郴鎴戜滑銆?銆?a target="_blank">騫垮憡鏈嶅姟銆?銆?a href="/common/footer/news-service.shtml" target="_blank">渚涚ǹ鏈嶅姟銆?/span>-銆?a href="/common/footer/law.shtml" target="_blank">娉曞緥澹版槑銆?銆?a target="_blank">鎷涜仒淇℃伅銆?銆?a href="/common/footer/sitemap.shtml" target="_blank">緗戠珯鍦板浘銆?銆?a target="_blank">鐣欒█鍙嶉銆?/td> |
鏈綉绔欐墍鍒婅澆淇℃伅錛屼笉浠h〃涓柊紺懼拰涓柊緗戣鐐廣?鍒婄敤鏈綉绔欑ǹ浠訛紝鍔$粡涔﹂潰鎺堟潈銆?/font> |