馬斯克和史蒂夫沃茲尼亞克領導的人工智慧專家希望禁止殺手機器人

數百個世界領先的機器人技術和專家們發表了一封公開信，敦促聯合國支持禁止致命自主武器系統。

這封信由 700 名研究人員和 600 多名其他專家簽署，其中包括, 著名物理學家、蘋果聯合創始人史蒂夫·沃茲尼亞克、Skype聯合創始人賈恩·塔林和激進哲學家諾姆·喬姆斯基。

它的發布恰逢世界上最負盛名的人工智慧會議 2015 年的第一天人工智慧國際聯合會議。

這封信認為，自主武器的部署在幾年內是可行的，並將在推動火藥和核武之後的第三次戰爭革命中發揮危險的作用。

人工智慧教授 Toby Walsh表示：「所有科技都可以用來做好事，也可以用來做壞事。人工智慧這種技術可以用來幫助解決當今社會面臨的許多迫切問題— —不平等和貧窮、成本上升等。” 醫療保健、全球暖化的影響？但它也可能被用來造成不必要的傷害。”

研究人員認為，用機器取代人類士兵有好處，可以減少傷亡，但也有壞處，因為它降低了上戰場的門檻。

公開信：

自主武器：人工智慧和機器人研究人員的公開信

自主武器無需人工幹預即可選擇並攻擊目標。 例如，它們可能包括武裝四軸飛行器，可以搜尋並消除符合某些預先定義標準的人員，但不包括由人類做出所有目標決策的巡航飛彈或遙控無人機。 人工智慧（AI）技術已經達到這樣的程度：部署此類系統在幾年而不是幾十年內實際上是可行的，而不是幾十年，而且風險很高：自主武器被描述為繼火藥之後戰爭的第三次革命和核武。

支持和反對自主武器的論點有很多，例如，用機器代替人類士兵有好處，可以減少擁有者的傷亡，但壞處是降低了上戰場的門檻。 當今人類面臨的關鍵問題是，開啟全球人工智慧軍備競賽還是阻止其開始。 如果任何主要軍事大國推進人工智慧武器的發展，全球軍備競賽幾乎是不可避免的，這項技術軌跡的終點是顯而易見的：自主武器將成為明天的卡拉什尼科夫衝鋒槍。

與核武不同，它們不需要昂貴或難以獲得的原材料，因此它們將變得無處不在且廉價，可供所有重要軍事大國大規模生產。 它們出現在黑市並落入恐怖分子、希望更好地控制民眾的獨裁者、希望進行種族清洗的軍閥等手中只是時間問題。選擇地殺害特定種族群體。

因此，我們認為軍事人工智慧軍備競賽不會為人類帶來好處。 人工智慧可以透過多種方式使人類（尤其是平民）的戰場更加安全，而無需創造新的殺人工具。

正如大多數化學家和生物學家對製造化學或生物武器沒有興趣一樣，大多數人工智慧研究人員對製造人工智慧武器也沒有興趣- 並且不希望其他人這樣做玷污他們的領域，從而可能引起公眾對人工智慧的強烈抵制，從而限制人工智慧的發展其未來的社會效益。 事實上，化學家和生物學家廣泛支持成功禁止化學武器和生物武器的國際協議，就像大多數物理學家支持禁止天基核武和致盲雷射武器的條約一樣。

總而言之，我們認為人工智慧具有在許多方面造福人類的巨大潛力，而該領域的目標應該是這樣做。 發動軍事人工智慧軍備競賽是一個壞主意，應該透過禁止超出人類有效控制範圍的進攻性自主武器來防止。

本文原刊於商業內幕。

更多來自商業內幕：