本報記者 俞陶然

世界經濟論壇近日發布的《2024年全球風險報告》顯示，人工智能對選舉結果的影響高居2024年全球風險之首。這個報告每年1月發布，撰寫團隊會咨詢1000多位來自科學界、產業界和公共組織的風險專家，旨在評估未來2年可能危及世界秩序的短期風險和著眼于未來10年的長期風險。今年，76個國家和地區將進行選舉，利用人工智能技術生成的虛假信息可能會充斥網絡，并對選舉結果產生影響。鑒于此，《2024年全球風險報告》在十大短期風險中，將人工智能排在氣候變化、經濟疲軟和戰爭之前，視其為最大風險。

如何看待人工智能生成虛假信息所帶來的風險？我們應如何控制這種風險？記者采訪了上海交通大學副教授牟怡、上海市科學學研究所研究員李輝。

廣泛存在的社交機器人引發關注

記者：人工智能系統通常是如何制造假新聞等虛假信息并對公眾觀念產生影響的？

牟怡：《2024年全球風險報告》提出的人工智能風險并不是新問題。近年來，在社交網絡平臺上廣泛存在的社交機器人已引起社會關注。社交機器人指的是由人設置、可憑借算法程序自主運行的智能社交賬號，它們能與社交平臺上的其他用戶進行信息交互。

應用于政治領域的社交機器人被稱為“政治機器人”，它們會通過營造虛假人氣、推送大量政治消息、傳播虛假或片面信息干擾輿論。全球范圍已發現不少政治組織和人物通過社交機器人在社交平臺上操縱輿論的證據。2016年美國大選期間，美國右翼組織在社交平臺上借助機器人,在種族、移民、公民身份等社會敏感議題上發布了大量情緒化內容。

隨著換臉、虛假音視頻制作等技術的興起，人工智能生成的虛假信息是全方位的，覆蓋文字、圖像、音視頻等各種形式。2018年，由人工智能深度偽造合成的加蓬總統阿里·邦戈新年致辭視頻引發了兵變，可見人工智能在政治領域的風險之高。

如今，人工智能大模型正在快速發展，全球很多大模型已經開源。人們可以利用這些大模型，自動批量生產和擴散高度復雜的言論信息，更高效地生成以假亂真的合成音視頻。這使得公眾區分真實和虛假信息的難度越來越大。

智能算法分發新聞造成“信息繭房”

記者：除了在政治領域，人工智能在其他領域會通過虛假信息影響公眾觀念嗎？

牟怡：當然會。比如在影視評價類社交平臺上，社交機器人“水軍”會為一些電影和電視劇刷分，讓網民對它們的美譽度產生誤判。又如在電商購物平臺上，機器人可以發布大量的虛假好評，促銷商品。

據網絡安全機構Imperva統計，2022年網絡流量中，社交機器人貢獻了47.4%的數據。可見，這類虛擬網民已滲透到各個領域，對人類網民的思想產生不可忽視的影響。

另一個需要警惕的問題是：即使人工智能系統生成的不是虛假信息，但在新聞資訊領域，很多應用軟件會利用大數據和智能算法技術，在內容分發上進行“精準制導”，只提供用戶感興趣的、有價值認同的內容。長期看，使用采用智能算法的新聞類應用軟件，很多網民就可能進入“信息繭房”，迷戀于令人愉悅的非主流意識形態，在價值觀上出現偏差。

管控應以“發展和安全并重”為原則

記者：面對越來越大的潛在風險，我們應如何對人工智能加以管控？

李輝：人工智能帶來的風險有兩類，一類是技術本身不成熟帶來的，另一類是技術應用帶來的，包括誤用、濫用等。從技術本身來看，普遍采用的應對做法是加速技術更新迭代，同時采取對齊工程、安全防護欄等技術方案。就制度層面如何管控人工智能風險問題，全球還沒有成熟的方案。

目前，歐盟《人工智能法案》已在歐洲議會通過。這是全球首部人工智能領域的法案，將采取分級分類的監管規則，在通用人工智能、基礎模型方面，把算力需求達到一定規模的基礎模型自動劃定為“系統性”和“高風險”，需配套透明度、安全測試評估等多項監管合規要求。

這個法案經過了漫長的談判才達成共識協議。此前，德國、法國和意大利三國發布的人工智能監管聯合文件指出，人工智能的本質風險是應用，而不是技術本身。一些科技發達國家的政府官員則擔心，如果管控過于嚴格，會阻礙人工智能的發展。國家之間的人工智能科技和產業競爭非常激烈，如果你管控嚴格，別人管控不嚴，你就可能在國際競爭中落后，所以在風險管控方面，存在著國家間的博弈。

在中國，由國家網信辦等七部門聯合發布的《生成式人工智能服務管理暫行辦法》已正式施行。這是我國首份針對生成式人工智能的規范性監管文件，明確了發展和安全并重、促進創新和依法治理相結合的原則，對生成式人工智能服務實行包容審慎和分類分級監管。

我的總體看法是，不能因噎廢食，因為擔心風險而限制人工智能的發展，而是要在不斷發展中尋求解決方案。在操作層面，可以從簡單的做起，比如現在網絡上到處是人工智能生成的內容，在一些特定場合，有必要規定這些內容的發布者應做“人工智能生成”標注。還有業界現在通行的紅隊安全測試，可防范大模型濫用或非法使用帶來的安全風險。

來源： 解放日報