11月1日，首屆全球人工智能安全峰會在英國布萊切利莊園召開，中國科技部副部長吳朝暉在開幕式上發表了演講。

全球28個國家和歐盟一致認為，人工智能對人類構成了潛在的災難性風險。

11月1日，首屆全球人工智能（AI）安全峰會在英國布萊切利莊園拉開帷幕。在開幕式上，由包括中國在內的與會國共同達成的《布萊切利宣言》正式發表。這是全球第一份針對人工智能這一快速新興技術的國際性聲明，旨在關注對未來強大人工智能模型構成人類生存威脅的擔憂，以及對人工智能當前增強有害或偏見信息的擔憂。

據新華社報道，中國科技部副部長吳朝暉率團出席此次峰會，參與人工智能安全等問題討論，積極宣介中方提出的《全球人工智能治理倡議》，并將與相關國家開展雙邊會談。該倡議圍繞人工智能發展、安全、治理三方面系統闡述了人工智能治理中國方案。

中國科技部副部長吳朝暉發表講話

布萊切利莊園是二戰期間盟軍破譯密碼的主要地點。半個多世紀前，“現代計算機科學與人工智能之父”、數學家阿蘭·圖靈在那里發明了第一代圖靈計算機。

如今，英國科學、創新和技術大臣米歇爾·唐蘭發表講話宣布了《布萊切利宣言》。她說：“各國現在第一次一致認為，我們不僅需要各自面對，而且需要共同審視前沿人工智能的風險。”

“我們申明，為了所有人的利益，人工智能應該以安全、以人為中心、值得信賴和負責任的方式設計、開發、部署和使用。”宣言寫道，并特別呼吁人們關注OpenAI、Meta和谷歌等公司正在開發的大型語言模型，以及它們可能因濫用而造成的具體威脅。

“人工智能的‘前沿’出現了特殊的安全風險，被理解為那些能力強大的通用人工智能模型，包括基礎模型，它們可以執行各種各樣的任務，以及相關的特定狹義人工智能，它們可以表現出以下能力：造成傷害——其能力達到或超過當今最先進模型的能力。”宣言指出。

宣言尤其關注網絡安全和生物技術等領域的風險，以及前沿AI可能放大虛假信息等風險。

唐蘭宣布，人工智能安全峰會將成為一項定期重復舉行的活動，下一屆峰會計劃于6個月后在韓國舉行，再下一屆計劃一年后在法國舉行。

吳朝暉在開幕式上發表了演講。據新華社報道，中方指出，人工智能治理攸關全人類命運，是世界各國面臨的共同課題。發展人工智能，應當積極倡導以人為本，智能向善，加強技術風險管控，并在相互尊重、平等互利的原則基礎上，鼓勵各方協同共治，增強發展中國家在人工智能全球治理中的代表性和發言權，不斷彌合智能鴻溝和治理能力差距。中方愿與各方一道就人工智能安全治理加強溝通交流，為推動形成普遍參與的國際機制和具有廣泛共識的治理框架積極貢獻智慧，切實落實全球發展倡議、全球安全倡議和全球文明倡議，促進人工智能技術更好造福人類，共同構建人類命運共同體。

峰會中也出現了一些具體進展。美國商務部長吉娜·雷蒙多宣布成立一個新的人工智能安全研究所，該研究所將設在美國商務部內，具體隸屬于該部的國家標準與技術研究院（NIST）。雷蒙多說，該組織的目標是與其他政府設立的其他人工智能安全組織密切合作，并透露英國也計劃建立安全研究所。“我們必須開始工作，我們的機構之間也必須開始努力，以在全球范圍內實現政策一致。”她說。

當地時間2023年11月1日，英國布萊切利園，人工智能安全峰會召開，全球科技公司的高管和政府官員等近百名代表出席。澎湃影像 圖

“罕見的全球團結表現”

本次峰會邀請了約100名各國官員、人工智能企業代表和專家。英國科學、創新和技術部11月1日發布的信息顯示，有美國、中國、日本、德國、印度等20多個國家的政府代表，以及聯合國、經合組織、國際電信聯盟等多個國際組織的代表參會。另有超過80個學術機構、企業和協會組織代表參會。

據《環球時報》援引路透社報道，中國于上周接受了英方的參會邀請，與吳朝暉一道與會的還有來自中國外交部、企業和學術機構的代表。據新華社報道，中國科學院、中國騰訊公司、阿里巴巴公司出席了會議。外國科技企業中，微軟總裁布拉德·史密斯、OpenAI首席執行官山姆·奧特曼、谷歌DeepMind首席執行官德米斯·哈薩比斯、特斯拉首席執行官埃隆·馬斯克等出席峰會。

英國媒體稱，美國商務部長雷蒙多和中國科技部副部長吳朝暉與唐蘭一起登臺，“這是罕見的全球團結表現”。負責組織此次峰會的英國官員之一馬特·克利福德（Matt Clifford）稱，雷蒙多和吳朝暉一起出現在舞臺上是“一個非凡的時刻”。此次峰會標志著英國尤其是英國首相蘇納克的外交成功。

不過，美國媒體注意到，根據與會者的個人陳述，各國的優先事項存在一定差異。比如，一些學者和包括馬斯克在內的人工智能開發者猜測“上帝般的”人工智能可能會消滅人類，在此推動下，蘇納克傾向于控制超能力的前沿模型，而《布萊切利宣言》也對這種理論上滅絕級別的威脅表示認可。

相比之下，美國代表不同意這種優先事項，或者至少在同意的程度上不如英國。與會的美國副總統卡馬拉·哈里斯更擔心人工智能目前對社會構成的威脅。“讓我們明確一點，還有其他威脅也需要我們采取行動。當前正在造成傷害的威脅，對許多人來說也感覺是存在的……”她表示。

美國媒體POLICITO評論道，這種分歧并不是完全排除或忽視其中一種風險，正如《布萊切利宣言》對這兩種風險都認可。但政府的政治資本和影響力都是有限的，而且它們決定關注的法規目前還遠未確定。企業擔心這種不確定性，一些公司對針對不同優先事項的監管法規可能會使他們的工作變得復雜化感到憤怒。Meta公司全球事務總裁尼克·克萊格 （Nick Clegg）表示，世界各國政府監管人工智能的競賽令整個行業感到困惑，希望本周的峰會至少能讓各國政府“朝著類似的方向前進”。

開幕全體會議上的領導人不僅包括來自世界最大經濟體的代表，還有一些發展中國家的代表。他們談到了包容性和責任感，但如何實施仍存在許多疑問。

AI業界爭論激烈

一些開發人員、學者和活動人士擔心，政府缺乏協調會導致科技巨頭在競爭中肆意妄為，破壞保護隱私或消費者權益的概念。

就在此次峰會召開前夕，圖靈獎得主、“人工智能三巨頭”等學者爆發了一場激烈爭論。首先是三巨頭中的杰弗里·辛頓（Geoffrey Hinton）和約書亞·本吉奧（Yoshua Bengio）呼吁加強對AI技術監管，否則可能引發危險的“AI末日論”，隨后三巨頭之一、Meta人工智能的負責人楊立昆（Yann LeCun）警告說，“迅速采取錯誤的監管方式可能會導致以損害競爭和創新的方式集中權力。”斯坦福大學教授吳恩達加入楊立昆行列，稱對末日論的過度恐懼正在造成真正的傷害，將粉碎開源，扼殺創新。

10月25日，中國人工智能科學家與西方知名學者一道，呼吁對人工智能技術實施更嚴格的控制。這24名AI專家簽署一份聲明警告稱，在未來幾十年，先進的人工智能將對“人類的生存構成威脅”。清華大學交叉信息研究院院長姚期智、清華大學智能產業研究院院長張亞勤這兩位知名中國學者均是簽署者。他們呼吁建立一個國際監管機構，先進的人工智能系統須進行強制性注冊和接受審核，引入即時“關閉”程序，并要求開發企業將30%的研究預算用于人工智能安全。《金融時報》11月1日稱，這些提議初步表明了中國在全球人工智能監管方面可能采取的立場。

在布萊切利莊園，馬斯克在峰會期間提出了自己的建議。“我們來這里的真正目標是建立一個洞察框架，這樣至少會有一個第三方裁判，一個獨立的裁判，可以觀察領先的AI公司在做什么，至少在他們有擔憂時發出警報。”他認為，在政府采取監管行動之前，需要先了解AI的發展情況，AI領域的很多人都擔心政府在知道該怎么做之前會過早地制定規則。

01:05

馬斯克在AI安全峰會期間提出，建立一個第三方裁判。(01:05)

一直以來對AI頻頻發出警報的馬斯克說：“這是人類歷史上第一次與遠比我們聰明的東西共處，所以我不清楚，我們是否真的能控制這樣的東西。但我認為我們可以期待的是，引導它朝著對人類有益的方向發展。我確實認為，這是我們面臨的生存風險之一，而且可能是最緊迫的風險。”

本次峰會歷時兩天，第一天由唐蘭主持，大多數科技公司和政府官員將出席首日活動。第二天的會議則由蘇納克主持，只會邀請小部分政治領導人和科技高管討論具體應對措施。