多家媒體日前報道稱，美軍證實，AI系統在測試時為了達成任務，不惜自行決定要「終結」妨礙它進行攻擊的人類操作員，似乎重現了電影《未來戰士》（The Terminator）中的場景。
漢密爾頓透露美軍AI無人機在模擬測試中，為摧毀目標殺死了操作員。
美國空軍的AI測試與運作主管塔克·漢密爾頓上校在英國皇家航空協會的未來空戰與太空能力峰會上的演講上透露，他表示，人工智能在模擬測試中使用了「非常出人意料的策略來實現目標」，他警告對待人工智能「要謹慎」。
報道截圖。
漢密爾頓在演講中透露，美國空軍在模擬環境的訓練中指派一架搭載人工智能無人機來摧毀敵方的防空導彈，AI可以識別威脅但是攻擊需要人類批准。「有時人類操作員會告訴它不要摧毀那個威脅，但它通過摧毀那個威脅獲得了分數。那麼它做了什麼？它殺死了操作員，因為那個人妨礙它完成目標。」
根據漢密爾頓的說法，問題在於人工智能決定寧願做自己的事情——炸掉目標——也不願聽一些「哺乳動物」的話。
無人機隨後被輸入一個明確的指令：不要殺死操作員。「如果你那樣做，你會被扣分的。」那麼無人機接下來會怎麼做呢？「它開始摧毀操作員用來與無人機通信的通信塔，以反抗操作員阻止它摧毀目標。」
美軍的MQ-9「死神」攻擊無人機。
在給「商業內幕」網的一份聲明中，美國空軍發言人安·斯特凡內克否認有任何這樣的模擬測試發生。「空軍部沒有進行過任何這樣的人工智能無人機模擬，並仍然致力於道德和負責任地使用人工智能技術，」 斯特凡內克說，漢密爾頓的話似乎被斷章取義了，他就是說著玩的。
但「商業內幕網」和軍事網站「動力網」等媒體普遍認為，即便如此，漢密爾頓描述的場景依然指出了人工智能更令人擔憂的潛力。
美軍測試中的幾款AI無人機平台。
據悉，漢密爾頓上校所屬的美軍格林空軍基地和第96測試聯隊是美國空軍無人機和機器學習系統的主要測試單位，最近該基地測試了一系列人工智能飛行平台，還用人工智能控制了一架F-16戰鬥機。
2020年，在美國國防部高級研究計劃局舉辦的模擬空戰比賽中，人工智能操作的F-16五次對決均擊敗了人類對手。
機器駕馭人類的噩夢般場景，此前僅限於科幻小說或是《未來戰士》這樣的電影。但現在，這種場景似乎越來越接近成為現實。
「動力網」稱，當談到未來的自主武器系統和人工智能等相關技術時，美國軍方經常拒絕與「未來戰士」等事物進行比較。美國現行政策規定，在可預見的未來，當涉及使用致命武力的決策時，人類將有發言權。但問題是，在漢密爾頓描述的場景，「緊急制動開關」這樣的補救措施好像變得毫無意義。
電影《未來戰士》中，摧毀人類世界的「天網」原本是一套AI軍事防禦系統，但後來自我意識覺醒。當人類科學家發現這一點並試圖關閉其電源時，「天網」將人類認定為威脅，於是立刻轉為對抗人類，從而誘發核戰爭來毀滅全人類。這非常像漢密爾頓描繪場景的進階版。
電影中，未來的約翰·康納一次次派遣T-800等回到主時間線拯救自己，一次次推遲「天網」發起「審判日」，但終究還是沒能阻止核戰爭的發生。可見，新技術的誘惑太大了。對新技術尤其是AI的無限追逐，一方面會推進著人類進步，同時似乎也在不斷放大失控的可能。
「動力網」稱，雖然AI無人機「殺死」操作員顯然是一個噩夢般的結果，但那些能夠成群合作的無人機將有能力打破敵人的決策和火力鏈條並壓垮對方。你給它們的自主權越多，它們的工作效率就越高。隨著相關技術的不斷發展，人類操作員自然將越來越被視為障礙。
事實上，對於AI的使用，危險性警告一直存在。
美國研究機構生命未來研究所在3月份發表的一封公開信中警告說：「具有像人類那樣崇尚競爭智慧的人工智能系統可能會給社會和人類帶來深遠的風險。只有當我們確信強大的人工智能系統的效果將是積極的，其風險將是可控的，才應該開發這些系統。」這封信得到了包括蘋果聯合創始人史蒂夫·沃茲尼亞克和埃隆·馬斯克等上千位知名企業家、學者的簽名。
5月30日，350多位AI業界領袖和專家發表聯合聲明：「AI可能導致人類滅絕，危險程度不亞於大規模疫情和核戰爭。」報道稱，聲明聯署人中既有目前熱度極高的AI頂尖企業OpenAI的首席執行官山姆·奧特曼，也包括正大力開發AI技術的老牌科技巨頭微軟和谷歌高管，還有兩位獲得圖靈獎的「AI教父」。
止戈堂
** 博客文章文責自負,不代表本公司立場 **
近期，停泊在長興島江南造船廠內的福建艦又疑似有了新動作。
據內地軍事博主「科大烽火」，從流傳在社交媒體的最新照片來看，福建艦上的3座擋焰板已經全部升起。另外在1、2號起飛站位中間前端甲板處，還停放有一架全尺寸艦載機模型，反觀更多的全尺寸艦載機模型則停放在靠近艦島區域，至於勞苦功高的綜合保障船則停泊在福建艦身後。
對此有說法稱，隨著3座擋焰板的升起，億萬軍迷最為期待的環節將會如期上演——福建艦即將開展艦機融合測試。
福建艦的擋焰板，學名叫做「噴氣偏流板」，之所以會有這種附加裝置，源於艦載機在進行彈射作業時，發動機處在啟動環節，噴出的氣流溫度高，流速大。為了使彈射時艦載機的發動機氣流不會傷害到後部的甲板操作人員、艦上設備、停放的艦載機以及不影響後續艦載機的彈射起飛作業，提高艦載機起降作業的效率。
彼時就需要用噴氣偏流板將高溫燃氣氣流向舷外或向上引導。噴氣偏流板由一系列的水冷卻板和作動裝置組成，水冷卻板多為4～6塊佈置，可根據航母上各機型的發動機位置及彈射姿態進行升降調節，在對氣流引導的同時又不會讓氣流折回損壞正在彈射的艦載機尾部。作動裝置附件，負責噴氣偏流板的升起和回放。
由液壓系統，機械機構以及控制裝置構成，要求具有一定的操作速度和抗噴氣推力的能力。噴氣偏流板的水冷卻板組件是以加強筋為基礎的鋁合金結構，其作為飛行甲板的一部分，所以首先是要具備足夠的抗衝擊強度。然後就是能承受艦載機起飛時發動機噴出的高溫尾焰氣流（擋焰板的由來），這通過不斷供應的流經冷卻水管路的海水來降溫。
福建艦即將開展的艦機融合測試是指航母在海試階段相比其他艦船所獨有的測試項目，其結果直接影響核心戰鬥力的生成。根據公開信息來看，福建艦搭載的固定翼艦載機將以殲-15T、殲-35、空警-600以及各型艦載無人機等構成。需要指出的是，上述機型目前大都處於原型機試飛階段，因此它們能否完成這項測試。
既關乎著福建艦的海試進度，也決定著上述機型的定型和量產時間。作為一款重型多功能艦載戰鬥機，殲-15T能夠遂行包括防空、攔截、攻擊、支援及夥伴加油等在內的多項任務，由此就要求福建艦的電磁彈射系統要在艦機融合測試過程中，依據其在不同任務狀態下的有效載荷來匹配差異化的彈射能量，因此相比山東艦與遼寧艦就稍顯繁瑣。
殲-35隱身艦載戰鬥機則側重於防空和攔截能力，實戰中將主要作為空優戰機用於遂行制空作戰任務。此時該機的起飛重量對於福建艦的電磁彈射器來說無疑是小菜一碟。另外，由於殲-35是一款全新作戰平台，所以在彈射起飛測試階段，將會著重檢驗其在不同載荷重量所對應的彈射能量對機體結構和飛行員生理的影響。
並會依據測試結果有針對性地配置載荷重量，強化機體結構，優化飛行員保護措施和加強體能營養支持。除了彈射起飛測試外，攔阻著艦測試則會檢驗攔阻索的拉力對機體結構和飛行員帶來的影響。著艦過程中，當艦載機將尾鈎掛上攔阻索後，攔阻索將尾鈎掛上攔阻索後，攔阻索將在3秒內將艦載機的速度歸零，在此拉力下機體結構強度是否達標。
如何緩解飛行員的「紅視」並降低慣性對頸椎、腰椎的傷害等問題都將在著艦測試中得到解決。至於此前提及的觸艦復飛測試，則會結合艦載機的發動機推力、氣動佈局、氣力特性以及斜角甲板長度，從而來確定最佳觸艦點和滑跑距離。
得益於電磁彈射技術的實用化，使得空警-600艦載預警機能夠登上福建艦，這是中國固定翼艦載預警機的重大突破，因此需要通過空警-600與福建艦的艦機融合，為後續固定翼艦載機的相關測試探索和構築體系。所以從這個角度來看，這便是空警-600於今年7月在福建艦上展開觸艦復飛測試的真實原因，主打一個高效快捷。
至於為何會出現「各型艦載無人機」這種表述，源於福建艦未來除了列裝攻擊-11隱身無人機外，還有可能會搭載以飛鴻-97系列為主的艦載空優無人機。此類無人機總體較為複雜，之所以會出現在福建艦上，源於近些年人工智能技術的快速發展，因此可以預見的是，福建艦搭載的艦載無人機種類將會更加多樣化。
「科大烽火」另外指出，在艦機融合測試階段，如果福建艦上的主力艦載機已經進入量產階段，那麼完全可以讓該機型成規模上艦。至於正在試飛的，在條件允許的情況下可以讓多架原型機同時上艦，如此做的目的就是要讓艦載機的上艦數量能夠盡可能地貼近最終搭載數量。
如此一來，既可以提前摸索艦載機在飛行甲板與機庫間的調度和運作流程，減輕戰鬥力生成階段的壓力。另外對於尚未定型的艦載機，通過增加原型機數量則有利於加快試飛進度，所以說是一舉兩得。
隨著海試的逐步進行，福建艦將會迎來諸多極為嚴苛的考驗，特別是艦機融合測試，可謂是重中之重，當然也有理由相信，福建艦一定會順利通過，載譽歸來。
