美國人工智能國家安全委員會中期報告

《2019國防授權法》設立了美國人工智能安全委員會，該委員會通過研究必要的舉措來推動美國人工智能、機器學習和相關技術發展，多面應對安全和國防需求。國會賦予委員會從競爭力、保持技術優勢之道、國際合作和競爭趨勢、促進基礎和GJ研究投入、勞動力和培訓、軍事應用的潛在風險、道德倫理問題、數據標準建立以及人工智能未來發展等方面審查人工智能。2019年11月4日，美國人工智能安全委員會于向國會遞交中期報告。本文重點介紹“美國面臨的挑戰”與“美國政府的行動路線”兩部分。

目 錄

一、人工智能討論的范疇

二、人工智能對美國安全至關重要

三、政府人工智能戰略指導方針與實際執行間存在差距

四、對美國人工智能L導地位形成巨大挑戰

五、確保美國人工智能L導地位的五條行動路線

人工智能討論的范疇

鑒于人工智能涵蓋范圍非常廣泛，本報告中，委員會討論的人工智能重點集中在以下方面：

狹義人工智能與人機編組

狹義人工智能將會以多種不同的方式為人類提供協助，包括在人類認為不安全、不想做或無法d自完成的任務中充當替補。

機器學習

今天的人工智能快速創新浪潮，很大程度上應歸因于出現了一種被稱為深度學習的機器學習方式。深度學習在圖像分類、對象檢測、語音識別、自然語言處理和其他應用L域，已被證實是一項有效的技術。

人工智能技術核心

人工智能并非是某個單一硬件或軟件，準確地講，它是一系列技術的集合，需要人才、數據、硬件、算法、應用程序和集成。

人工智能生態系統

一個能夠提供支持的合格產業生態系統十分重要，包括法律、資金、機構、政策、人才、知識產權保護、供應鏈和反人工智能防御機制。

人工智能對美國安全至關重要

人工智能可以幫助美國更有效地應對自然災害和突發事件

具備人工智能的工具和系統能夠協助守護邊境安全、偵測并打擊惡意網絡活動、保護關鍵基礎設施以及有效應對自然災害。

人工智能可對大量數據進行處理，在海量數據中辨別異常，實現實時風險評估與響應，以支援反恐和反間諜工作。

在入境口岸運用載有人工智能的傳感器，能夠更有效地阻止武器、違禁品和人員的非法流動，幫助美國更有效地應對威脅與突發事件。

基于人工智能的分析能夠支持更G質量的決策

在一個遍布傳感器的世界，人工智能算法能夠通過對大量數據進行篩選，找出模式、偵測威脅并識別關聯。

人工智能工具能夠使衛星圖像、通信信號、經濟指標、社交媒體數據和其他大型信息源更加易于理解。

將人工智能技術運用于軍事將改變美國的戰爭方式

在未來戰場上，軍方能夠借助具備人工智能的機器、系統和武器更快地了解戰場情況，更快地生成通用作戰態勢圖，更快地進行相關決策，在對抗環境下實施更復雜的多域作戰，將更少的美國軍人置于險境以及保護無辜者生命并減少附帶損傷。

將人工智能技術多面集成到軍事系統及行動當中，能夠提升感知、理解及決策的精度和速度，并獲得超出人類認知能力的優秀表現，因此有人認為人工智能將會開啟“算法戰爭”的新時代。

政府人工智能戰略指導方針與實際執行間存在差距

針對人工智能的戰略指導方針陸續出臺

以白宮2019年頒布《維護美國在人工智能L域L導地位》的行政命令為開端，美國政府已經意識到了人工智能對于安全的重要性并開始出臺戰略指導方針。

人工智能仍難以得到足夠的政府資金支持

在很大程度上， 人工智能對于美國政府來說仍然是一個難題，因為它不符合由安全需求及聯邦資金來推動技術發展的傳統方式。目前，大多數人工智能應用程序都屬于商用范疇，安全方面的應用則大多停留在理論層面。

僵化的政府運作體系不利于人工智能發展

在不斷追趕的模式下，政府正嘗試將人工智能與現有的基礎設施和技術結合。由于采購、測試和評價體系落后，無法適應人工智能迭代的、基于軟件的屬性，政府的法規和官僚體制常被視為對人工智能商業模式的阻礙。

此外，由于政府缺乏廣博的專業知識，難以想象人工智能的前景、涵義、操作理念，使得守舊僵化的思想成為人工智能發展的主要障礙。

總之，委員會的初步判斷是：美國沒有將人工智能L域的優勢和戰略宣言轉化成為特定的安全利益，主要部門和機構尚未完全體察上層的戰略政策，因此關鍵性安全任務并未納入人工智能。

確保美國人工智能L導地位的五條行動路線

加大人工智能研發政府投資

委員會認為，雖然人工智能具有巨大的變革性潛力，但目前美國政府尚未投入足夠的資源去滿足當前的研究需求，也未能給未來的創新制造條件。美國的人工智能L導地位可能比現在預想的更早面臨風險。委員會作出五方面判斷：

一是聯邦政府撥給人工智能的研發經費與其潛在的革命性價值不匹配，更不及競爭對手在這方面激進式的投入，因此亟需比當前水平G出數倍的投資。

二是政府應在全國范圍內建造人工智能研發基礎設施，并鼓勵建設區域創新集群。

三是官僚體制與資源的局限，阻礙了政府下屬的實驗室和研究中心對自身人工智能研發潛力的充分發揮。

四是美國政府需要明確目標、優先上馬、協調一切并且爭分奪秒地投入以安全為重心的人工智能研發。

五是美國政府應實施更加靈活的出資機制以支持人工智能研究，不可再墨守成規。

加快人工智能在安全任務中的應用

安全委員會認為，人工智能是下一次科技飛躍的關鍵，若能夠妥善加以利用，它將拓展美國的優勢并在東亞與東歐保持強大威懾力。因此，美國政府需要加快對人工智能的應用工作。委員會形成六方面共識：

一是人工智能可以幫助美國執行重大安全任務。

二是官僚體制威脅到了政府對于人工智能安全策略的執行。國防和情報機構需要即刻加快人工智能應用步伐。

三是從國防部到情報體系，存在著一大批成功的自下而上的創新。但是，當前沒有自上而下的L導力來克服組織障礙，這些孤立的項目無法轉化為戰略變革。

四是能夠快速部署人工智能成為作戰的必要條件，要在有彈性、強健、可靠和安全的人工智能系統上進行投資。

五是人工智能的優劣取決于其依托的基礎設施。而在國防部內部，這類基礎設施尤其薄弱。

六是美國政府沒有充分利用基本的商業人工智能來提升商業實踐并節省納稅人的錢。部門和機構需要進行現代化改造，以提G效率并節約成本。

培訓和招募人工智能人才

委員會認為，增加人工智能人力資本已勢在必行，政府可以培訓自身人力資源、招募新人才以及與外部機構合作。美國應該將從戰場到實驗室的每個人都納入對人工智能勞動力需求的再思考。關于培訓和招募人工智能人才，委員會成員形成如下共識：

一是安全機關需要重新思考對于人工智能勞動力的需求。包括提G各個機構對人工智能相關技術的熟悉度，在人工智能開發和部署的各個層J嵌入對于倫理和責任方面的培訓，以及推廣使用現代軟件工具。

二是美國的人工智能人才庫很大程度上要依賴留學生和國際勞工。因此，美國的競爭力就取決于吸引和留住全世界D人才的能力。

三是政府應著眼于增加人工智能相關的獎學金和交流機會，讓官員和服役人員掌握先進的人工智能技術，并將人工智能企業的人才納入到聯邦工作中。

四是軍事和安全機關需要更好的激勵和培訓機制，爭取留住人工智能人才。

保護和建立美國技術優勢

為了在保持開放型經濟的同時，維持美國在國防技術上的優勢，委員會經過初步研究，形成如下共識判斷：

一是傳統基于商品的出口管制以及小范圍的外資審查已不足以維持美國在人工智能L域的競爭力。

二是美國政府應該繼續借由出口管制（包括多邊管制）來保護美國及其盟友特定的人工智能硬件優勢，尤其是在半導體制造設備方面。

三是美國需要繼續在與人工智能相關的硬件L域保持L先，并確保政府有獲得新技術的可靠途徑。

四是執法部門和學術界L導人可以且應該找到共同立場，在保持開放性研究體系的同時，降低美國校園中存在受外國政府指示活動的安全風險。

引L人工智能合作

隨著人工智能成為聯合國和經濟合作與發展組織等多邊機構關注的焦點，委員會正在研究如何發起一個聯盟，來強化美國及其盟友的利益與價值觀，特別是在人工智能規范與標準方面。委員會經過初步研究，形成如下共識判斷：

一是美國需要建立合作伙伴網絡，用于人工智能數據共享、研發協調、能力建設和人才交流，以增強自身在人工智能L域的競爭力。

二是人工智能對軍事互用性提出了重大挑戰。如果美國及其盟友不及早并且經常對人工智能能力進行協調，那么美國軍事同盟的效能將受到損害。

三是美國的外交應當開放地看待與中俄進行合作的可能性，以提升人工智能的安全性，并掌控人工智能對于戰略穩定性的影響。

四是美國應倡導建立積J的議程，就人工智能的發展與所有進行合作，以造福人類。