來源：澎湃新聞

當地時間10月30日，美國總統拜登簽署一項“具有里程碑意義的”行政命令，推出白宮有關生成式人工智能的首套監管規定。

根據行政命令，美國多個政府機構需制定標準，以防止使用人工智能設計生物或核武器等威脅，并尋求“水印”等內容驗證的最佳方法，擬定先進的網絡安全計劃。

具體而言，命令要求對人工智能產品進行測試，并將測試結果報告給聯邦政府。它還提出吸引全球人工智能人才留在美國。據多家媒體此前報道，該行政命令要求運行云服務的公司向政府通報其外國客戶的情況。

“行政命令設定了規范”

白宮在一篇聲明中稱，該行政命令旨在確保美國在兌現人工智能的承諾和管理風險方面發揮帶頭作用。作為拜登政府負責任創新綜合戰略的一部分，它建立在總統之前采取的行動的基礎上，其中包括15家領先公司自愿承諾推動人工智能安全、可靠和值得信任的發展的工作。

美國媒體POLITICO報道稱，盡管該命令不具有法律效力，而且白宮之前的人工智能監管工作也因缺乏執行力而受到批評，但新規定將通過聯邦機構的購買力和執行工具對美國市場產生影響力。例如，行政命令特別指示聯邦貿易委員會重點關注人工智能行業的反競爭行為和消費者傷害問題，該機構主席莉娜·汗（Lina Khan）已經公開支持這一使命。

“這是重要的第一步，重要的是，行政命令設定了規范。”喬治城大學安全與新興技術中心高級研究分析師勞倫·卡恩（Lauren Kahn）在接受媒體采訪時說。

白宮將向十多個政府機構發布內容廣泛的指令。在明年總統選舉之前，大多數機構將有90至240天時間來滿足行政命令的要求。命令還將任命一個白宮人工智能委員會來協調聯邦政府的相關活動，該委員會由白宮負責政策的副幕僚長擔任主席，并由來自各主要機構的代表組成。

拜登政府一位高級官員在簡報中告訴記者，新規定主要適用于未來的人工智能模型，“我們不會召回現有的公開型號。”

《紐約時報》報道稱，該命令針對的是最先進的未來系統，但在很大程度上并沒有解決現有聊天機器人的直接威脅，這些機器人可能被用來傳播與烏克蘭、加沙或總統競選有關的虛假信息。此外，雖然該命令僅影響美國公司，但由于軟件開發發生在世界各地，美國在執行這些規定時將面臨外交挑戰，所以美國政府試圖鼓勵盟友和對手制定類似的規則。

必須與政府共享安全測試結果

行政命令將指導八項行動：為人工智能安全制定新標準，保護隱私，促進公平和公民權利，維護消費者、患者和學生的權利，支持勞動者，促進創新和競爭，提升美國在人工智能技術方面的領導地位，并確保政府負責任且有效地使用該技術。

第一個部分是“人工智能安全新標準”。根據《國防生產法》，該命令將要求開發任何對國家安全、國家經濟安全或國家公共健康安全構成嚴重風險的基礎模型的公司，在訓練模型時通知聯邦政府，并且必須與聯邦政府共享所有紅隊安全測試的結果，并開發標準、工具和測試手段，以幫助確保人工智能系統安全和可靠。

美國國家標準與技術研究所（The National Institute of Standards and Technology）將為廣泛的紅隊測試制定嚴格的標準。國土安全部將把這些標準應用于關鍵基礎設施部門，并成立人工智能安全委員會。能源部和國土安全部還將解決人工智能系統對關鍵基礎設施的威脅，以及化學、生物、放射性、核和網絡方面的安全風險。

命令要求，通過制定強有力的生物合成篩選新標準，防范使用人工智能設計危險生物材料的風險。

命令還要求，通過建立檢測人工智能生成的內容和驗證官方內容的標準和最佳方法，保護美國人免受人工智能驅動的欺詐和欺騙。商務部將制定內容認證和水印指南，以明確標記人工智能生成的內容。

命令要求制定國家安全備忘錄，以指導人工智能和安全方面的進一步行動，由國家安全委員會和白宮辦公廳主任負責。該文件將確保美國軍事和情報界在其任務中安全、合乎道德且有效地使用人工智能，并將指導采取行動反擊對手對人工智能的軍事使用。

據POLITICO和《紐約時報》稍早前披露的草案，為了防止強大的人工智能模型落入外國對手手中，該命令要求開發強大人工智能模型的公司向商務部提供定期報告，并要求亞馬遜和微軟等大型云服務商在外國客戶租用服務器訓練大模型時通知政府。

隱私、公平、健康、教育方面

第二部分是“保護美國人的隱私”。第一步將涉及管理和預算辦公室查明政府購買了多少個人身份信息。行政命令還將制定指導方針，以減輕政府收集、使用、共享和刪除從數據經紀人處購買的信息時的隱私風險。

行政命令鼓勵聯邦機構采用高端隱私增強技術來保護收集的數據，并鼓勵國家科學基金會資助一個新的研究網絡，該網絡專注于開發、推進和部署供聯邦機構使用的隱私技術。

該命令還涉及人工智能在工作場所的使用，指出不應部署人工智能技術來“鼓勵不當的勞動者監視”。

第三部分是“促進公平和公民權利”。命令要求為房東、聯邦福利計劃和聯邦承包商提供明確的指導，以防止人工智能算法被用來加劇歧視。通過制定在量刑、假釋和緩刑、審前釋放和拘留、風險評估、監控、犯罪預測和預測性警務以及法證分析中使用人工智能的最佳實踐，確保整個刑事司法系統的公平性。

第四部分是“支持消費者、患者和學生”。衛生與公眾服務部將制定一項安全計劃，以接收涉及人工智能的危害或不安全醫療保健實踐的報告，并采取行動進行補救。命令要求支持教育工作者部署人工智能支持的教育工具（例如在學校進行個性化輔導），塑造人工智能改變教育的潛力。

第五部分是“支持勞動者”。制定原則和最佳方法，為勞動者提供指導，防止雇主薪酬過低、不公平地評估工作申請或影響勞動力的組織能力。

為留住人工智能人才提供便利

第六部分是“促進創新和競爭”。白宮稱，美國在人工智能創新方面已經處于領先地位，去年在美國首次籌集資金的人工智能初創公司數量超過了排在后面的七個國家的總和。

命令提出，通過國家人工智能研究資源試點來促進美國各地的人工智能研究，并擴大對醫療保健和氣候變化等重要領域人工智能研究的資助；通過為小型開發者和企業家提供技術援助和資源，幫助小型企業突破商業化，并鼓勵聯邦貿易委員會行使其權力，促進公平、開放和競爭的人工智能生態系統；通過現代化和簡化簽證標準、面試和審查，擴大在關鍵領域擁有專業知識的高技術移民和非移民在美國學習、居留和工作的能力。

第七部分是“提升美國在海外的領導力”。命令提出，美國國務院將與商務部合作，領導建立強大的國際框架，與國際合作伙伴和標準組織一起加快重要人工智能標準的開發和實施，促進人工智能在國外安全、負責任和維護權利地發展和部署。

據悉，美國副總統卡馬拉·哈里斯將出席本周在倫敦舉行的人工智能安全峰會。

第八部分是“確保政府負責任且有效地使用人工智能”。命令要求，為各機構使用人工智能發布指南，包括制定保護權利和安全的明確標準、改進人工智能采購并加強人工智能部署；通過更快速、更高效的簽約，幫助機構更快、更便宜、更有效地獲取指定的人工智能產品和服務。