鑽石舞台

行業新聞早知道，點讚關注不迷路！

據法新社日內瓦12月2日報道，華盛頓2日在聯合國拒絕了一項管控或禁用殺手機器人的約束性協議的倡議，而是提出應該制定相關的「行為準則」。

本月13至17日，聯合國將召開《特定常規武器條約》（Convention on Certain Conventional Weapons，CCW）締約國第六次審查會議。在此次會議之前，各國代表在日內瓦會面，討論致命性自動武器的使用規範。

據了解，聯合國自2017年以來一直在日內瓦舉行外交對話，旨在就解決殺手機器人的使用問題達成協議。但迄今為止，各國甚至就是否需要對此類武器進行管控也尚未達成一致意見。

許多國家提議儘快簽訂法定協議，限制殺手機器人這類武器的使用，包括智利、墨西哥、巴西、阿根廷、菲律賓、巴勒斯坦等，新西蘭在11月30日亦表示將會推動相關禁令。

在日內瓦的討論會上，美國卻拒絕簽訂該項法定協議，美國代表喬希·多羅辛（Josh Dorosin）在會上說：「我們認為，取得進展的最佳方式是起草一份沒有法律約束力的行為準則。」多羅辛認為，行為準則就能夠督促國家負責並遵守國際法。此外，印度也拒絕簽訂該項協議。

以美國和印度為代表的反對立法國認為，就算他們不研發殺手機器人，其他國家也會。

麻省理工學院物理學終身教授、未來生命研究所創始人Max Tegmark教授認為這樣的說法不成立，他認為，聯合國以往通過立法禁用生化武器，已經成功地限制了生化武器的廣泛使用，而殺手機器人跟生化武器一樣，便宜且致命！

【科學家警告：AI殺手機器人能大規模殺戮】

關於AI殺手機器人的問世，科學家並非沒有警告過。美國加州大學伯克利分校計算機科學教授Stuart Russell在國際上赫赫有名，他的著作《人工智能:一種現代的方法》在全球被1500所大學用作教科書，他過去10年一直希望禁止AI技術應用於鎖定人類的全自動武器。

早於2017年，Russell教授在日內瓦的外交會議上報告他對AI武器的看法，他播放短片《殺戮機器人》（Slaughterbots），片中描述一種直徑約8厘米的小型無人機，可攜帶炸藥，靠近並炸死敵人。

Russell教授播放小型殺人無人機的短片Slaughterbots

俄羅斯大使看到此片的反應卻是嗤之以鼻，認為這種情節只是科幻小說，在未來25到30年內都不用擔心。Russell教授當時認為不需那麼久，幾個研究生花幾個月就能組裝這樣的武器。

果不其然，該會議的3個星期後，土耳其就出現與《殺戮機器人》片中一樣的武器。

視頻：土耳其武器製造商STM推出的自動殺人無人機Kargu

2017年11月，土耳其武器製造商STM宣布一款自動殺人無人機Kargu，可通過人臉識別鎖定目標。據聯合國報告，這款Kargu無人機被應用在2020年的利比亞內戰中。

Russell教授表示，在國際上，土耳其的科技水平並不高，STM也只是小型的武器製造商，所以可以想象其他國家也正在研發這類武器。

Russell教授警告稱，致命的AI武器體型很小，成本很便宜，製造門檻也很低，假如不加以監管，AI武器可以像槍械一樣普及，產生巨大威脅。

【人民網發文：莫讓人工智能技術走入歧途】

美國拒絕簽訂禁用殺手機器人的約束性協議的倡議書後，12月3日，我國人民網隨即發表題為《莫讓人工智能技術走入歧途》的文章。

文章表示：「從實際情況看，美國、俄羅斯、日本、英國、印度等主要國家均認識到人工智能軍事應用的顛覆性力量，積極發展和部署智能化武器系統。一些中小國家為藉助智能武器系統獲得挑戰大國的非對稱優勢，也對其趨之若鶩。從他們的所作所為來看，都是為了謀求一己私利，企圖利用人工智能技術鞏固自身軍事優勢。」

文章最後表示，期待12月13-17日聯合國召開《特定常規武器條約》第六次審查會議上，各方能秉持「智能向善」的理念，提出符合全人類共同利益和價值觀的人工智能軍事應用治理規則。

畢竟，無序的人工智能軍事應用將給人類帶來無法承受之重，只有在人工智能領域打造人類命運共同體，才是唯一的出路。

END