今年國際上發生的兩件大事:伊朗最高領袖哈梅內伊遇襲身亡;委內瑞拉總統馬杜羅被美軍強行控制。據外媒報道,美軍在上述行動中都使用了人工智能。
然而,短短數月時間,五角大樓卻被AI搞得焦頭爛額。
據《紐約時報》報道,7月中旬,美國空軍向各大軍事承包商發出了一封措辭十分嚴厲的信函,要求他們在9月1日前,必須徹底清除掉所有武器和控制系統軟件中Anthropic公司的人工智能產品,否則將面臨終止所有五角大樓業務的風險。
然而,近日,承包商們又收到了一封撤回令,信中稱:「他們可以,至少目前可以,無視先前關於清除Anthropic產品的指令。」
一個月內,禁令下達又撤回。到底用不用AI?軍事承包商心裏沒數,下達命令的五角大樓心裏也沒數。
這場混亂的源頭,要從五角大樓和Anthropic的糾葛說起。去年這家公司和OpenAI、谷歌等一起拿下了五角大樓的軍事AI合同。
但Anthropic堅持要保留美軍使用的AI模型中的限制,而美軍拒絕被一家私企凌駕到自己頭上,於是今年2月底,五角大樓正式將該公司列為「供應鏈風險」,終止了其2億美元的國防合同。
有已離職的美國高級官員稱,當時美國政府正在用該公司的大模型進行關鍵測試,停止使用相當於「單方面解除武裝」。
布倫南司法中心的研究報告顯示,自2016年以來,美國國防部已經撥款至少750億美元給人工智能驅動的項目。實際應該會更高,因為很多機密項目的投入經費無法被統計。
美國花如此大價錢在軍事AI上,得到的回報卻不盡如人意。
五角大樓的旗艦AI項目「Maven計劃」,即用AI分析衛星和無人機影像、快速鎖定轟炸目標,在實際戰場上的表現遠沒有宣傳中的那樣神奇。
數據顯示,Maven的算法在天氣良好的情況下識別坦克的準確率約為60%,而在惡劣天氣或能見度差等不利條件下,這一準確率將會驟降至30%。
這意味着即使有天時地利,用AI來打擊目標,10次里也只有6次能成功。
有多家外媒報道分析,美以伊衝突中美軍誤炸當地小學造成160多名兒童死亡的慘劇,正是因為美軍AI調用的攻擊目標坐標來自十多年未更新的舊數據庫,而這所小學所處的位置在十多年前是伊朗海軍基地。
美軍自己也無法信任手中的AI。
據CBS報道,在摩洛哥「非洲雄獅2026」演習中,美軍測試了Overland AI公司的全自動戰鬥車輛ULTRA。但參與演習的一名軍官表示:「我絕不會放心地把需要我做出的決定委託給電腦。」
即便前線頻頻發出「失控預警」,五角大樓的決策層卻選擇充耳不聞,加速將AI推向戰場。
今年美國國防部發布了《人工智能加速戰略》,提出要用AI重塑未來戰爭形態,「以戰時速度運作」加快AI軍事化。美國防部長赫格塞思更是直接在演講中宣布,要「掃清美軍內部阻擋人工智能高效發展的障礙」。
美國中情局局長拉特克利夫將AI比作「數字核武器」,因為它的能力足夠強大。但核武器是有按鈕能操控的,AI卻是開放的、每天都在變的。
如果一項技術連使用者自己都無法控制,那它能帶給世界的,恐怕不是安全,而是更大的危險。