人類正加速邁向人工智能的關鍵“奇點”，大數據、大模型、大算力相互交織，構筑著邁向數字文明的“方舟”。在澎湃激蕩的數字化征程中，不可避免地會遇到數字時代的新風險和新挑戰。

9月1日，正值我國《數據安全法》施行兩周年，由上海市通信管理局、上海市楊浦區人民政府主辦的2023“浦江護航”上海電信和互聯網數據安全論壇暨AIGC數據安全治理論壇在滬舉辦。

在本次論壇中，與會政府部門和企業相關人士指出，生成式人工智能等新技術新業務的發展，為數據安全保護和監管工作帶來了新的風險和挑戰。對此，不同主體亟須采取措施開展數據安全治理和算法治理，建立健全數據安全管理制度和技術保護措施，積極推動形成多主體參與、產業、法律、技術等多種手段相結合的數據安全綜合管理格局。

此外，在論壇中，上海市互聯網協會數據安全工作委員會聯合業界電信、移動、聯通、東方有線、美團、得物、拼多多、B站、小紅書等20家企業代表，簽署了《2023上海電信和互聯網行業數據安全倡議》。

電信和互聯網領域相關企業是數據安全的第一責任主體

2021年9月1日，我國《數據安全法》正式實施。《數據安全法》確立了數據分類分級管理、數據安全審查、數據安全風險評估、監測預警和應急處置等基本制度，通過建立健全各項制度措施，提升國家數據安全保障能力，切實維護國家主權、安全和發展利益。

據工信部網絡安全管理局副局長杜廣達在論壇中介紹，目前，在國家數據安全工作協調機制的統籌下，各地區初步構建了數據安全工作的新格局。不過，杜廣達也坦言，“數據安全工作仍處于起步階段。”

工信部網絡安全管理局副局長杜廣達

“其中，電信和互聯網企業承載了大量用戶個人信息和業務數據，占全國行業機構產生數據的總量超過四分之一，具有極高的價值，已成為網絡攻擊的主要目標。勒索病毒、數據泄露等安全事件時有發生，整體形勢依然嚴峻。”杜廣達說。

不僅如此，生成式人工智能等新技術新業務的發展，更為數據安全保護和監管工作帶來了新挑戰。電信和互聯網領域相關企業既是數據安全的第一責任主體，也是防范化解數據安全風險的第一道屏障。

那么，未來加強電信和互聯網領域的數據安全工作應如何加強？杜廣達認為，首先企業深入開展實踐，夯實數據安全防護基礎。電信和互聯網企業要嚴格執行數據安全政策法規要求，深入開展重要數據識別備案、風險評估和全生命周期防護管理實踐，形成行之有效的解決方案。

其次，企業要加強前瞻應對，主動防范新型安全風險。企業要及時跟蹤生成式人工智能、深度合成、算法推薦等新技術新業務發展趨勢，深入分析應用場景，研判新技術、新應用在數據采集、存儲、傳輸、使用等環節存在的風險隱患，準備把握數據安全風險發生的規律、動向和趨勢。

再次，促進數據安全產業發展，有效賦能數據安全保護。各地方政府要結合地方產業基礎和優勢，圍繞關鍵技術產品和重點領域應用，打造高端化、特色化數據安全產業集群，加快數據安全技術和人工智能、大數據等技術的融合創新，賦能提升數據安全態勢感知、風險研判等能力水平。

值得一提的是，就在近期，工信部組織啟動了2023年“數安護航”專項行動，正在面向重點電商平臺、數據中心和云基礎設施運營企業，集中開展風險排查和防范處置，及時化解電信和互聯網領域數據安全的風險隱患。

擁抱大模型，安全是底座

在此次論壇的圓桌環節中，來自的上海交通大學人工智能研究院副院長王延峰、深信服科技股份有限公司副總裁馬蘊超、觀安信息創始人張照龍等專家分享了對大模型浪潮中數據安全的看法。

在觀安信息創始人張照龍看來，大模型浪潮中的風險首當其沖的就是數據安全。

“大模型里面隱含了非常多敏感數據，所以數據泄密問題非常關鍵。”張照龍舉例稱，近期，韓國三星一個技術人員把自己的源代碼上傳到ChatGPT，希望ChatGPT能夠給他一個技術，但是該技術人員上傳了企業的生產核心的代碼。

不僅如此，風險也來自模型本身。“我們做大模型是一個知識型大模型，過程中有可能調用一些其他學習化的模型算法，直接引用這些函數和模型算法。這些模型和算法本身是否存在安全隱患，最終導致我們認知錯誤或者導致數據結果是偏移的，這也是很大的隱患，包括內置一些安全隱患的漏洞等。”張照龍說。

不僅如此，因為知識型算法是生成的，因此很大的一個安全隱患是數據推理。

而深信服科技股份有限公司副總裁馬蘊超則從數據、算法、倫理三個方向指出了大模型浪潮中數據安全面臨的挑戰。

在其看來，大模型首先是基于大量級的數據，數據從哪里來？“此前open AI等應用程序等都面臨著大量知識產權的訴訟，就是因為在數據合規性上出了一些問題。另外是數據在存儲和傳播中的加密和安全，如果泄露了，對于個人和企業的傷害都比較大。”馬蘊超說。

算法也是一樣，訓練過程中總是容易出現幻覺。AIGC基于深度神經網絡，它的算法本身就有一定的黑盒，算法的決策過程不可控，有可能會出現歧視、偏見、誤解。“舉例比如貸款的模型，基于以前的數據，最終出現的結論有可能會對種族、區域、性別造成一些歧視性的決策。”馬蘊超說。

第三是倫理風險，“可能它一鍵生成，用語音、視頻比以前更加逼真。現在一些電信詐騙也引入了大模型。”馬蘊超說。

最后，上海交通大學人工智能研究院副院長王延峰則大道至簡地總結，挑戰來自兩方面，輸入安全的挑戰和輸出安全的挑戰。輸入核心是語料數據，輸入的數據語料不安全，很難保證輸出的數據安全。

另外在輸出的安全性上，很多技術層面、架構層面問題有待解決，目前其在做的人機對齊，價值觀對齊等研究，都是在做這方面的探索。

“無論是從輸入安全的問題，還是輸出安全的問題，最后一點是，希望民眾要有對新技術的足夠的耐心和寬容度，讓其往前再發展一段時間。”王延峰說。