來源：環球時報

【環球時報報道 記者 崔瑾玥 陳子帥】近日，首屆人工智能安全峰會在英國布萊奇利莊園落下帷幕。峰會發布《布萊奇利宣言》（以下簡稱《宣言》），稱“人工智能帶來巨大機遇，有潛力增強人類福祉、和平和繁榮，并已部署在日常生活的許多領域”。《宣言》同時也認為，對于前沿人工智能技術有意識濫用或者無意識控制方面的問題，可能會引發巨大風險。人工智能時代的全球治理難點及挑戰有哪些？中國的人工智能企業在發展中應關注哪些方面？

“關鍵人物聚集在一起，本身就是成就”

全球人工智能安全峰會的舉辦地 “布萊奇利莊園”是位于倫敦以北55英里的一處莊園。第二次世界大戰期間，被稱為“計算機科學之父”“人工智能之父”的英國人艾倫·圖靈在莊園中參與了密碼破譯，開創了計算機科學和人工智能的基本理論。英國將峰會選址于此，折射出不少深意。

此次出席峰會的代表來自歐盟和全球28個國家。包括英國首相蘇納克、聯合國秘書長古特雷斯、歐盟委員會主席馮德萊恩、意大利總理梅洛尼、美國副總統哈里斯、中國科技部副部長吳朝暉，以及來自微軟、OpenAI、特斯拉、谷歌等多家企業的高管悉數到場。英國科學、創新和技術大臣米歇爾·多尼蘭表示，如此之多的關鍵人物聚在一起，本身就是一項成就。

中國科學院自動化研究所研究員、人工智能倫理與治理中心主任、國家新一代人工智能治理專委會委員曾毅受邀參與了人工智能安全峰會，并見證了《宣言》的簽署。他告訴《環球時報》記者，人工智能安全峰會的未來還有空間做得更好。“正如我在圓桌研討會內容總結時所說的，如果明年的會議能夠有40個，甚至是更多國家受邀參加，那一定是更圓滿的。真正包容性的國際合作，一定要更有勇氣地傾聽更多不同的聲音，更有胸懷接受差異，更有智慧交流互鑒。”根據外媒消息，第二屆人工智能安全峰會將在韓國舉行，之后是法國。

“機器人永遠不是人類”

《宣言》簽署的背景是世界各國科技企業在ChatGPT推出之后，不斷研發推出大模型產品的“競賽式的激烈競爭狀態”。以中國為例，近期包括螞蟻集團、網易有道、學而思、昆侖萬維和知乎等在內的多家公司公開宣布旗下大模型已通過備案，正式開放。這是繼9月中國第一批大模型獲得備案以來，第二批正式向公眾開放的大模型產品。據國內媒體梳理統計，通過《生成式人工智能服務管理暫行辦法》備案的公司已有至少17家。

與快速發展并行的風險來自何處？《宣言》中將其定義為對于前沿人工智能技術“有意識濫用”和“無意識控制”。“比如在國外有的網站上，有的生成式人工智能模型已經被用于生成惡意代碼，協助復雜的創作，以及更有欺騙性和惡意的電子郵件入侵活動，上述行為構成‘有意識的濫用’。而由于大量訓練數據本身可能存在瑕疵或問題，因此其就可能生成一些全新的錯誤的東西，但同時使人們又可能對其很相信，產生的‘人工智能幻覺’，則屬于‘無意識控制’。”中國社會科學院法學研究所教授姚佳告訴《環球時報》記者，人工智能在開發階段首先就應追求價值對齊。研發人員需要在模型層面堅持使人工智能理解、遵從人類價值、偏好、倫理等原則，防止歧視、欺騙等有害輸出以及濫用行為。

在上述可能的風險下，人工智能在快速發展中是否會產生“智能叛變”，有意或無意識地傷害到人類？據韓聯社8日報道，韓國一名工人在生產線上慘遭工業機器人誤殺，原因是該工業機器人沒能將這名工人與生產線上正在處理的農產品箱子區分開。對此上海人工智能專家咨詢委員會委員、達闥機器人創始人、董事長黃曉慶告訴《環球時報》記者，來自AI的“智慧”賦能于人形機器人后，機器人會變得更聰明。但無論何種情況下，開發者首先應確保“機器人在任何情況下都不能出現傷害人類的操作”。對此，黃曉慶稱人類應開發建立有效的防火墻機制，“無論是采取特別的指令，還是借助云端控制系統，開發者應該牢記，倫理層面，機器人永遠不是人類，保護人類才是核心出發點。”

“聯合國這個平臺才最為合適”

《布萊奇利宣言》中提出，世界范圍內“共同關注的人工智能安全風險”，各國可能會制定基于風險的政策，細化風險等級以及治理方式，從而加強安全、促進發展。姚佳告訴記者，我國在人工智能領域的立法進程已走在世界前列。“近年來陸續頒布實施的管理辦法、規定，以及規范和倡議總體上已較為充分。國家正在堅持發展與安全并重、促進創新和依法治理相結合的原則，鼓勵人工智能創新發展，并進行有效引導、科學治理。”今年6月，《國務院2023年度立法工作計劃》明確將《人工智能法》納入計劃，屆時將更好地推動技術發展與風險規制雙重目標的實現。

放眼全球協調，國際社會對人工智能技術的治理是否已經形成合力？對外經濟貿易大學國際關系學院學者梁懷新告訴《環球時報》記者，總體而言，國際社會對人工智能技術濫用的治理，尚處于“倡議形成期”，國際共識與治理合力不斷形成，但具有國際法約束力、并被各方均認可的治理規章尚需不斷完善，特別是亟需針對人工智能技術算法黑箱、相關平臺被西方國家控制或“捕獲”、人工智能技術產業化過程中的利益分配等問題進行具體的規制。

值得一提的是，今年10月“一帶一路”國際合作高峰論壇期間，中國發布《全球人工智能治理倡議》，并在其中提出“積極支持在聯合國框架下討論成立國際人工智能治理機構，協調國際人工智能發展、安全與治理重大問題”。

“盡管本屆人工智能安全峰會并不是一次只有西方的會議。但更為深刻、廣泛、最具包容性和全面意義的全球人工智能治理確實只有聯合國這個平臺才最為合適。”曾毅告訴記者。