专家们担心能自主行动的进攻性武器将极大降低战争门槛，导致更大量人类伤亡。网络图片

　　【香港商報网訊】「殺人機械人」似乎已被公認是下一輪軍用技術的制高點，但同時引發的倫理爭議與安全擔憂日漸升溫。來自26個國家的116名專家，昨天由美國「科技狂人」、特斯拉CEO馬斯克和DeepMind聯合創辦人蘇雷曼領頭，發布公開信號召全面禁止「自主武器」。

　　聯合國最近已投票通過開啟對此類軍用武器的正式討論，這包括自主化的無人機、坦克、機關槍。馬斯克等人正推動聯合國制訂決議制止這波全球已經開啟的「殺人機械人」軍備競賽。

　　或致人類戰爭第三次革命

　　在公開信中，技術領袖們對將主持該討論的聯合國常規武器會議警告稱，這輪軍備競賽極有可能導致「人類戰爭形式發生第三次革命」，前兩次分別由火藥和核武引發。他們說：「致命自主武器將使未來戰爭擴大到前所未有的規模，戰爭進展的速度也將超過人類對時間的理解。這類武器很有可能成為恐怖的代名詞，獨裁者、恐怖分子能把它們用到無辜平民上，也有可能被黑客利用。一旦這個潘多拉魔盒開啟，關上就難了。」

　　此前，AI專家曾警告，雖然AI武器能讓軍人變得更安全，更多人不需要上前線，但專家們擔心能自主行動的進攻性武器將極大降低戰爭門檻，導致更大量人類傷亡。

　　馬斯克很早就對前瞻性的AI政策立法進行了多次呼吁，把人工智能說成是人類的頭號生存威脅。但他的說法造成很大爭議，不少頂級學者及意見領袖表達了不同觀點，其中包括臉書掌門朱克伯格。不少人可能認同AI對人類社會有很大破壞潜力這一說法，但同時認為真正造成「破壞」還離得很遠。

　　恐引爆世界大戰　全球AI專家去信聯合國　倡禁研殺手機器人

　　据香港01，在某個月黑風高的晚上，一群脫北者試圖從朝鮮南下，越過三八線非軍事區前往韓國。不過，韓國一方已部署三星SGR-A1武裝機器人偵測到他們。

　　目前韓國軍方已在非軍事區部署SGR-A1武裝機器人，設計人員已賦予此款機器人作出開火決策的能力，內置識別系統可分辨對方是平民還是武裝人員，並會因應情況用強光照射對方、甚至擁有發射橡膠子彈的能力。

　　目前該款機器人僅可在操作人員規限下執行任務，倘若將來韓國軍方解除限制，SGR-A1這款最接近殺手機器人的現役武器，將可變成朝韓邊境的恐怖存在。有見及此，Tesla創辦人Elon Musk、Google Deepmind創辦人等116位人工智能專家周日（20日）聯署，希望聯合國能禁止使用殺手機器人，避免人類爆發「第三次世界大戰」。

　　Tesla創辦人馬斯克等全球116名AI專家發聯署信，要求聯合國禁止各國研發殺手機器人，避免第三次世界大戰發生。（路透社）

　　在澳洲墨爾本21日召開的國際人工智能聯合會議（IJCAI）上，包括Tesla公司創辦人馬斯克（Elon Musk）、Google人工智能公司Deepmind創辦人蘇萊曼（Mustafa Suleyman）等來自全球26個國家的116位人工智能（AI）專家聯署公開信，稱可自行判斷人類生死的「殺手機器人」（killer robots）如同大殺傷力武器，更可能引爆第三次世界大戰，要求聯合國在全球範圍內禁用此類武器。

　　一旦（殺手機器人）研發成功，他們將使衝突規模變得史無前例般龐大，最終會達到人類難以適應的速度。殺手機器人將成為恐怖的武器，他們將被暴君和恐怖份子所用殘害無辜民眾......留給我們的時間已不多，一旦潘朵拉的盒子被打開，就很難被關上。

　　116位AI專家聯署公開信

　　這是國際人工智能聯合會議第二次提出相關倡議。早在2015年，澳洲新南威爾士大學人工智能教授沃爾什（Toby Walsh）發公開信，呼籲各方重視殺手機器人可能造成的嚴重問題，當時該信件得到著名物理學家霍金、蘋果聯合創辦人沃茲尼亞克（Stephen Wozniak）等數千名人工智能專家支持，並推動聯合國在2016年正式討論相關議題。

　　韓國三星研發的SGR-A1機器人已在韓朝非軍事區部署，擁有發射橡膠子彈能力。（網上圖片）

　　多國無視警告　密鑼緊鼓研發殺手機器人

　　面對人工智能專家不斷發出的聯署信，美國、英國、俄羅斯等國軍工企業可謂不以為然，繼續研發「殺手機器人」。

　　目前韓國軍方已在非軍事區部署SGR-A1武裝機器人，設計人員已賦予此款機器人作出開火決策的能力，內置識別系統可分辨對方是平民還是武裝人員，並會因應情況採取播放警告武器、用強光照射對方、甚至擁有發射橡膠子彈的能力。目前該款機器人僅可在操作人員規限下執行任務，倘若將來韓國軍方解除限制，SGR-A1將可變成朝韓邊境的恐怖存在。

　　除韓國已經在朝韓非軍事區部署SGR-A1武裝機器人外，俄羅斯軍火商正測試人形殺手機器人，可自動槍殺敵方目標。英國軍火商正研發全自動無人戰機（Taranis drone），無須人類控制就可向空中或地面目標開火。

　　英國正在研發的Taranis 全自動無人戰機，擁有自行判斷是否開火的能力。（網上圖片）

　　作為軍事大國，美國自然不會在「殺手機器人」研究上有所落後。包括波音等公司正在研發全自動無人潛艦，可在深海自動發射長程導彈，摧毀敵方目標。

　　（綜合報道 撰文：吳家俊）