警惕AI軍事化應用風險

　　警惕AI軍事化應用風險

　　■陸欣宇

　　從全球范圍看，當前人工智能(即AI)正向軍事領(lǐng)域不斷延伸，軍事應用的級聯(lián)效應逐漸顯現(xiàn)，其在指揮決策、情報處理、網(wǎng)絡攻防、戰(zhàn)場保障等方面業(yè)已展現(xiàn)出巨大潛力。但與此同時，人工智能軍事化應用也將為全球安全帶來諸多風險，需要人們格外關(guān)注。

　　容易引發(fā)軍備競賽。對于人工智能的軍事化進程而言，不論一國發(fā)展人工智能軍事應用的意圖如何，因在技術(shù)發(fā)展上存在可見差距，為避免人工智能時代的“不對稱戰(zhàn)爭”，后發(fā)國家將感到威脅而加速自身人工智能軍備研發(fā)和部署。先發(fā)國家為保持軍事優(yōu)勢將對其人工智能軍事應用的戰(zhàn)略部署高度保密，引發(fā)猜忌和戒備，使國家間戰(zhàn)略互信迅速下降，增加對抗和沖突風險。與此同時，為占據(jù)發(fā)展優(yōu)勢，各國將不斷加大對人工智能軍事技術(shù)研發(fā)、專業(yè)人才培養(yǎng)、基礎設施建設等方面的投入。人工智能專家斯圖爾特·羅素曾估算現(xiàn)階段全球在通用人工智能研發(fā)上的投入已經(jīng)是曼哈頓計劃的10倍，是有史以來建造的最大、最昂貴的科學儀器——大型強子對撞機投入的100倍。

　　可能降低戰(zhàn)爭門檻。就武器裝備而言，相比傳統(tǒng)武器裝備，人工智能驅(qū)動的武器系統(tǒng)不需要操作人員經(jīng)過長時間專業(yè)訓練，也不需要其具有豐富經(jīng)驗，更多作戰(zhàn)人員能夠快速上手操作投入戰(zhàn)斗。除此之外，人工智能技術(shù)以其在數(shù)據(jù)分析、仿真模擬、方案設計、迭代優(yōu)化等方面的突出優(yōu)勢，將軍事裝備研發(fā)和部署周期大幅縮短，從而能夠在更短時間內(nèi)形成戰(zhàn)斗力，降低發(fā)動戰(zhàn)爭在裝備準備上的時間和資源門檻。就指揮決策而言，一方面，無人化的武器裝備和網(wǎng)絡攻擊手段將大幅度降低一線指戰(zhàn)員傷亡風險和裝備損耗，壓縮殺傷鏈殺傷成本，從而減少決策者發(fā)起戰(zhàn)爭的顧慮和壓力。另一方面，現(xiàn)階段國際上對人工智能武器的定義、分類、使用范圍和責任歸屬等關(guān)鍵問題尚未形成統(tǒng)一標準，國際法在人工智能軍事應用方面存在大量空白，對使用人工智能武器發(fā)起戰(zhàn)爭缺乏有效法律約束和懲戒措施。就參與主體而言，傳統(tǒng)意義上軍事力量較弱的國家也有機會通過引入自主武器系統(tǒng)提升自身戰(zhàn)斗力，打破現(xiàn)階段全球軍事平衡，從而改變軍事力量格局造成沖突風險。

　　放大技術(shù)失控隱患。隨著人工智能軍事化進程的推進，更多自主武器系統(tǒng)的加入將對系統(tǒng)同步和協(xié)同性提出更高要求，不同系統(tǒng)因各自計算邏輯和決策機制的不同，可能在優(yōu)先級設定、介入手段等方面出現(xiàn)沖突，導致作戰(zhàn)系統(tǒng)混亂。此外，高效便利的智能軍事系統(tǒng)可能造成作戰(zhàn)人員對其過度依賴，一旦出現(xiàn)系統(tǒng)故障，將導致整體性癱瘓，操作人員可能無法接管作戰(zhàn)任務，甚至全面喪失對武器裝備的指揮能力，導致軍事行動的全面失敗乃至難以預計的人道主義災難。隨著智能系統(tǒng)獲得的訓練數(shù)據(jù)和學習案例不斷增加，整體性能逐步提升，但可解釋性或?qū)⒅饾u降低，“算法黑箱”逐步演化為“系統(tǒng)黑箱”，若人工智能自我學習和進化能力達到一定程度，突破“技術(shù)奇點”，形成“超級智能”，自主武器系統(tǒng)或許會徹底超出人類理解和控制范圍。