當地時間1月16日

OpenAI在其最新的博客文章中提到

他們正在組建一個新團隊

名為“集體對齊”（Collective Alignment）

該團隊主要由

研究人員和工程師組成

專注于“規范”人工智能模型的行為

解決潛在的問題

OpenAI在博客中表示

其目標是打造一個系統

能夠收集和“編碼”

公眾對其模型行為的看法

之后

將這些見解融入產品和服務中

使人工智能模型更好地

“與人類價值觀保持一致”

過去一年

以ChatGPT為代表的

大語言模型集中爆發

生成式人工智能

讓各界看到全新的可能性

展現出強大的生成創造能力

有望大幅提升社會生產力

加速千行百業的數字化進程

促進人類社會全面邁向智能化新階段

技術突破不僅會創造發展機遇

也會帶來數字鴻溝加劇

科技倫理失范等風險

為防止AI發展失序

“價值對齊”概念

重新成為一個熱門話題

除OpenAI外

谷歌、微軟等科技公司紛紛入局

成立類似的價值對齊部門或團隊

有研究人員認為

價值對齊的本質是人類對AI的信任

某種程度上

讓AI按照人類的價值觀行事

有助于緩解

人類對AI能力快速增長的焦慮情緒

生成式人工智能的

演進速度之快

賦能范圍之廣

影響程度之深

前所未有

以負責任的態度

推動生成式人工智能發展

不僅十分必要

也愈發緊迫

統籌人工智能發展和治理

已逐漸成為全球共識

2023年8月

世界互聯網大會成立

人工智能工作組

推動生成式人工智能

發展與治理協同共進

增進全人類共同福祉

在2023年世界互聯網大會

烏鎮峰會期間

人工智能工作組發布

發展負責任的生成式人工智能

研究報告及共識文件

提出了

發展負責任的生成式人工智能

十點共識

圍繞人工智能

發展、安全、治理三方面

倡導以人為本理念

始終致力于增進人類福祉

推動人類經濟、社會和生態

可持續發展

展望未來

人類應更好應對

數字科技發展帶來的

規則沖突、社會風險和倫理挑戰

讓技術與人性同時閃耀

撰文：孔繁鑫編輯/排版：李飛、李汶鍵統籌：李政葳

參考丨光明網、國際在線、騰訊研究院、網易科技

光明網出品

更多信息歡迎關注光明網數字化頻道

來源： 世界互聯網大會