【文/觀察者網 王愷雯 編輯/馮雪】

從去年11月底面世至今，ChatGPT熱度不減。

作為AlphaGo之后又一個基于人工智能（AI）技術的現象級應用，ChatGPT顛覆了公眾對聊天機器人的認知，也再次喚醒了人類對人工智能的擔憂。

在學術界和教育界，ChatGPT已經遭到不同程度的“封殺”；不安情緒同樣彌漫在各行各業，很多人對“技術性失業”的焦慮感倍增。

在同濟大學人文學院特聘教授杜嚴勇看來，現在說ChatGPT之類的AI工具取代人類，還為時過早，“它在創造性、社會性以及個性化等方面無法與人類相媲美，這也是人工智能和人類智能的本質區別。”

曾從事算法研發工作、目前是數字營銷領域創業者的彭璐瑤認為，技術的產生和進步，并不是為了和人類競爭或是取代人類工作，而是讓人類從簡單重復的工作中解脫出來，有時間去做更深入的研究、更多創造性的工作。

近年來人工智能快速發展，然而它也如同雙刃劍。ChatGPT之類的大型語言模型是否會被用來生產虛假信息和仇恨言論？其生成內容的版權歸誰？誰又該為其內容負責？一系列可能牽涉的倫理及法律問題，讓我們在擁抱新技術的同時，又不得不有所警惕。

作為國內較早從事人工智能倫理研究的學者，杜嚴勇坦言，“不少科技工作者對倫理學家比較‘反感’，覺得你們老是在質疑，老是在批判，但人工智能是個例外，大家普遍認可人工智能技術應該受到倫理和法律約束。”

值得一提的是，2022年我國相繼發布《關于加強科技倫理治理的意見》和《互聯網信息服務深度合成管理規定》。美國《華爾街日報》日前指出，作為算法監管先行者的中國，已經將注意力轉向了深度合成技術。

圖源：視覺中國

為什么是ChatGPT？

編寫代碼、通過頂尖高校考試、寫出全班最高分論文，這是過去兩個多月里ChatGPT創造的“傳奇”。

據瑞銀數據，自11月底發布以來，短短兩個月，ChatGPT的月活躍用戶已達到1億。相比之下，TikTok達到1億用戶花了約9個月時間，Instagram則用了兩年多。“在互聯網領域發展的20年里，我們想象不到有哪個互聯網應用發展得（比ChatGPT）更快。”瑞銀表示。

ChatGPT靠什么爆紅“出圈”？

“ChatGPT是由OpenAI開發的一種大型語言模型（LLM，Large Language Model），通過學習大量文本內容和語言知識，它能夠生成人類可讀的語言……”ChatGPT在和觀察者網對話時這樣自我介紹。

2015年，埃隆·馬斯克（Elon Musk）和山姆·阿爾特曼（Sam Altman）聯合創辦了OpenAI，并得到了微軟等投資者的支持。2020年，OpenAI推出了超大規模語言訓練模型GPT-3，其參數達到1750 億，是當時全球最大的AI語言模型。

觀察者網專欄作者陳經介紹，OpenAI在GPT-3的基礎上開發出“GPT-3.5”也即ChatGPT。相較于GPT-3，ChatGPT的關鍵優勢在于人工優化——GPT-3肚里有大量干貨，但不擅長理解人的對話，需要“懂行”人士的引導才能輸出有效內容；OpenAI則經過了大量人工測試，人工對不對勁的反饋進行訓練修正，用有點意外的方式解決了問題。

上投摩根基金認為，對于資本市場來說，ChatGPT的出現提升了人類NLP（Natural Language Processing，自然語言處理）能力的上限，直接打開了市場對AI題材的想象力天花板，因此在國內外都引起了市場的高度關注。

然而，也有不少專家指出，ChatGPT在技術層面并沒有革命性突破。復旦大學管理學院信息管理與商業智能系系主任、教授張誠日前接受封面新聞采訪時表示，從技術應用上看，ChatGPT并沒有創新性可言，其出圈的關鍵在于選對了落腳點。

在同濟大學人文學院特聘教授杜嚴勇看來，從技術的角度來說，目前大多數人工智能產品并沒有實質性的創新，都是對一些已有的人工智能技術的應用。而ChatGPT可以成功出圈的關鍵因素在于，它是技術進化的一個標志性結果。

“和過去的聊天機器人相比，ChatGPT最大的區別在于智能性更高了，而且它的文字處理能力很強大。”杜嚴勇說，“ChatGPT生成的論文、詩歌，不能說非常文學化，但至少沒有明顯的語病，看上去還挺像樣。”

杜嚴勇指出，2016年AlphaGo的橫空出世，掀起了一輪人工智能投資高潮，但它只是一個下圍棋的程序，幾乎沒什么日用性，而ChatGPT不存在這種限制，它可以和所有人交流，勢必會掀起新一輪人工智能投資熱潮。

“這些年，人工智能引發了一些恐慌，我們常聽到‘人工智能威脅論’。在AlphaGo之后，ChatGPT可以讓我們更清楚地看到人工智能和人類智能的差別，以及兩者間的優勢和劣勢，可以讓我們更清醒地認識到人工智能可以干什么，不能干什么，思考未來該怎么辦。”

2016年3月，AlphaGo對戰韓國職業圍棋手李世石，以4比1的總比分獲勝 圖源：視覺中國

數字營銷領域創業者彭璐瑤經常使用人工智能協助工作，她認為，ChatGPT的不同之處在于，它是一個比較“通用”的語言內容生產工具，基于大量的文本數據進行訓練，可以適用于很多任務。

“我平時用得比較多的是Jasper AI，它和ChatGPT很相似，但更專注于商業領域，例如營銷文案、廣告文案之類的文本生產，而ChatGPT幾乎什么內容都可以生產。”此外，ChatGPT是一個更強大的互動式內容生成工具，“你和ChatGPT的對話越深入，它所提供的回答就越精準。”

彭璐瑤同樣認為，從技術上來說，ChatGPT并沒有什么突破，“它真正的突破與創新在于其‘通用’的定位，能與各個場景進行非常好的對接，讓各行各業的人都能將其運用到自己的領域中。”

在ChatGPT的引領下，越來越多的科技企業加入了這場人工智能競賽。微軟、谷歌、Meta等美國科技巨頭紛紛重金布局相關賽道，大幅增加對AI領域的投資。國內大廠同樣在快速跟進類ChatGPT技術，百度、阿里、三六零、網易有道等公司相繼確認正在開發相關產品。

彭璐瑤認為，AIGC（AI Generated Content，指利用人工智能技術來生成內容）還是一個新的風口，“這個市場有三個要素：資金、市場、技術。國內不缺資金，內容分發平臺也有很多，內容需求很旺盛，市場還是挺大的。技術方面，我認為國內要注重開源模型、技術共享。”

“市場關注度多，資金投入大了，國內市場可能會一窩蜂投資很多類似的項目。在這種情況下，競爭的焦點可能變成誰的成本更低，或者誰的速度更快，從而忽略了技術創新。”彭璐瑤表示，“AIGC是一個有很大發展空間和想象空間的領域，目前這個時候，技術落地是一方面，另一個重點則是不斷推動技術創新。”

2022年12月12日，杭州，參觀者在首屆全球數字貿易博覽會上體驗AI作畫 圖源：視覺中國

人們在擔心什么？

盡管ChatGPT還算不上完美，但它無疑在重建我們對人工智能的認知，也再次喚醒了人類對人工智能的焦慮。

“我們沒有預料到將‘孩子’帶到這個世界會帶來這種程度的興奮。事實上，我們甚至對它感到有些不安。我很好奇，它將從哪些領域開始為人們帶來效用，而不僅僅是新奇和純粹的好奇心。”ChatGPT開發商OpenAI首席技術官米拉·穆拉蒂（Mira Murati）2月初接受美國《時代》雜志采訪時表示。

在學術界和教育界，ChatGPT已經掀起了不小的風波。近期，《科學》《自然》《腫瘤學》等多家科學期刊發表聲明，不接受論文將ChatGPT列為“合著者”。《暨南學報（哲學社會科學版）》等國內C刊也發布聲明，暫不接受任何大型語言模型工具單獨或聯合署名，如有隱瞞使用情況，將對文章直接退稿或撤稿處理。

“ChatGPT很好玩，但它不是作者。”1月26日，《科學》刊登了其總編輯霍爾頓·索普（Holden Thorp）的文章，指出對于《科學》而言，“原創”一詞足以表明用ChatGPT編寫的文本是不可接受的，這等同于從ChatGPT中抄襲。

在美國、澳大利亞、法國等國，ChatGPT也遭到了教育系統不同程度的“封殺”，或是限制其師生在公立學校的設施和網絡上訪問ChatGPT，或是將使用ChatGPT視為“作弊”。還有人開發出GPTZero軟件，靠分析文本的“困惑性”和“突發性”檢測其內容是否由人工智能生成，用魔法打敗魔法。

美、法等國部分學校“封殺”ChatGPT

不安情緒同樣彌漫在各行各業，ChatGPT的出現再次引發人們對“技術性失業”和“生存危機”的焦慮。在大家的討論中，分析師、記者、程序員、教師、律師等都成了可能被ChatGPT取代的“高危職業”。

不過，在杜嚴勇看來，現在說ChatGPT之類的人工智能工具取代人類，還為時過早。

“從表面上看，ChatGPT會給你一個非常全面，甚至可以說圓滑的回答，讓你從直觀上看挑不出多少毛病。但如果想要獲得一些個性化、專業化，能強調個人觀點的答案，對ChatGPT這種回答模式的接受程度可能就不會很強了。”

杜嚴勇表示，ChatGPT的本質還是通過優化算法以及大量的訓練，在海量的數據庫中快速搜索答案，再轉化成文字表達，它在創造性、社會性以及個性化等方面無法與人類相媲美，這也是人工智能和人類智能的本質區別。

他以教育為例，指出現在很多人工智能所謂的“深度學習”，其過程是一個“黑箱”，“但教育不是這樣。教育更多是一種過程，一個重要的目的就是培養學生的素質和能力，這是人工智能所不具備的。”

但杜嚴勇認為，隨著人工智能的發展，現有的教育理念和教育模式會產生變化，將進一步推動素質教育、個性化教育的發展。

相較于“取代人類”，杜嚴勇更認可人工智能可以協助人類，“人類大腦的‘容量’畢竟是有限的，而人工智能存儲容量可以說是無限的。我們讓人工智能來彌補人類智能的不足，讓它們做我們的好助手，但最終決策還是要靠人類自己來完成。”

曾從事算法研發工作的彭璐瑤認為，技術的產生和進步，并不是為了和人類競爭或是取代人類工作，其初衷是輔助人類的工作，讓人類從簡單重復的工作中解脫出來，有時間去做更深入的研究、更多創造性的工作。

彭璐瑤表示，人類的技能隨著科技發展而進步，不斷適應科學的發展，“當所有作家都會用ChatGPT寫故事，所有程序員都會用ChatGPT生成代碼，我想大家關心的重點應該是如何比別人更好地完成任務，如何脫穎而出，而不是關注技術本身是否能替代自己。我認為機器和人類并沒有競爭關系，人和人才是互相競爭的對象。”

她還提及，知名經濟學家凱恩斯曾預言，隨著社會的進步，到了21世紀人類會更加閑暇，每周只需要工作15小時。“但今天的我們反而更忙了，技術進步拉動人們的需求，產生更多機會，包括工作機會，人們因此可能會更加忙碌，而不是擔心自己的工作會被替代。”

外界對于ChatGPT的擔憂，并不限于是否將導致更多人失業或作弊行為，還有它可能帶來的更多倫理和法律問題。

ChatGPT的開發者也意識到“有很多難題要解決”，包括如何讓模型做我們希望它做的事情？如何確保它與人類的意圖相一致，并最終為人類服務？以及一系列關于社會影響的問題。

穆拉蒂此前表示，ChatGPT帶來的影響是雙向的，“技術塑造我們，我們也要塑造它”。她承認，“AI可能被濫用，也可能被壞人利用”，因此還要考慮如何在全球范圍內管理AI的使用，以及如何以符合人類價值觀的方式管理AI的使用。

對OpenAI首席執行官阿爾特曼來說，GPT模型也有讓他“感到害怕”的事，“我確實一直在密切關注開源圖像生成器所生成的報復性色情圖片，我認為這會造成巨大且可預見的傷害。”阿爾特曼本月初接受《福布斯》采訪時表示。

OpenAI首席執行官阿爾特曼 圖源：視覺中國

談及公司是否有責任確保上述問題不會發生，阿爾特曼表示：“人們無論如何都會采用開源模型，這樣做的結果在大多數情況下都是好的，但也會有一些不好的事情發生。在此基礎上建立的公司，以及與終端用戶有最后關系的公司也將不得不承擔一些責任。因此，我認為這種情況將會采用共同責任和問責制度。”

“科技工作者總反感倫理學家挑刺，但人工智能是例外”

穆拉蒂認為，ChatGPT應該受到監管。“對于OpenAI和其他類似公司來說，以一種可控和負責任的方式讓公眾意識到這些問題非常重要，但我們是一小群人，我們還需要對這個系統投入更多，不僅僅是技術范圍的投入，還包括監管機構、政府和社會各界的參與。”她對《時代》雜志表示。

杜嚴勇指出，對ChatGPT等人工智能工具的監管確實是非常重要的問題。作為國內較早從事機器人與人工智能倫理研究的學者，他坦言，倫理學家研究科學技術可能會導致哪些社會影響，他們通常是帶著批判和質疑的，“因此不少科技工作者對倫理學家比較‘反感’，覺得你們老是在質疑，老是在批判。”

“但人工智能是個例外。”杜嚴勇表示，不管是科技工作者還是企業家，抑或社會公眾，大家普遍認可人工智能技術應該受到倫理和法律的約束。

時代周刊：ChatGPT的創造者認為人工智能應該受到監管

“這些人工智能產品，包括聊天工具、機器人，應該怎么使用？應該在哪些場景中使用？都要有明確的管理辦法，這些單靠技術人員是無法完成的，要由政府、倫理學家共同參與，制定一個倫理框架或者有關的法律條文。”

杜嚴勇表示，新的技術不斷涌現，和法律相比，倫理更加“靈活”，倫理學家應該提出倫理治理的框架體系，它的適用性和適用范圍更廣，適用時間也更長。“在這些基本原則的指導下，面對一些普遍的人工智能產品，我們就知道怎么做。”

2022年3月，中共中央辦公廳、國務院辦公廳印發了《關于加強科技倫理治理的意見》，提出了增進人類福祉、尊重生命權利、堅持公平公正、合理控制風險、保持公開透明等五項原則。

杜嚴勇表示，這五項原則就相當于一個大的指導框架，“下一步我們可以對它進行細化，在某個新的人工智能產品出來之后，去指導大家應該如何使用。”

另一方面，2022年12月，國家互聯網信息辦公室、工業和信息化部、公安部聯合發布《互聯網信息服務深度合成管理規定》（以下簡稱《規定》），自2023年1月10日起施行。

深度合成技術，即利用深度學習、虛擬現實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網絡信息的技術。

《規定》明確，任何組織和個人不得利用深度合成服務制作、復制、發布、傳播法律、行政法規禁止的信息。深度合成服務提供者和使用者不得利用深度合成服務制作、復制、發布、傳播虛假新聞信息。

《規定》還要求，深度合成服務提供者應當落實信息安全主體責任；深度合成服務提供者提供深度合成服務，可能導致公眾混淆或者誤認的，應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識，向公眾提示深度合成情況。

有關部門就《規定》答記者問時強調，出臺《規定》，能夠劃定深度合成服務的“底線”和“紅線”，維護網絡空間良好生態。

“算法監管的先行者——中國，將注意力轉向治理‘深度偽造’。”美國《華爾街日報》1月8日刊文，指出中國關于深度合成技術新規的實施，標志著全球首次有主要監管機構對限制這一“最具爆炸性和爭議性”的人工智能新技術進行全面的嘗試。

文章指出，在全球范圍內，對濫用深度合成技術來生成“深度偽造”內容的擔憂持續增長。斯坦福大學研究學者、“數字中國項目”負責人格雷厄姆·韋伯斯特（Graham Webster）表示，中國正在和世界一起了解這些事情可能造成的影響，并且正在更快速地推進強制性規則和執法。

韋伯斯特表示，中國的規定將為中國以外的觀察人士提供一個研究案例，讓他們研究這種規則如何在現實世界中發揮作用，以及它們可能對企業產生何種影響。

報道還指出，美國的立法者也試圖解決“深度偽造”內容的擴散和潛在的濫用問題，但這些努力因所謂的“言論自由”而停滯不前。

此外，據路透社報道，歐盟內部市場專員蒂埃里·布雷頓(Thierry Breton) 表示，擬議中的歐盟人工智能規則將解決外界對ChatGPT和人工智能技術風險的擔憂。報道稱，這是首次有歐盟高官對ChatGPT發表評論。

“正如ChatGPT 所展示的那樣，人工智能解決方案可以為企業和公民提供巨大的機會，但也會帶來風險。這就是為什么我們需要一個堅實的監管框架來確保基于高質量數據的可信賴人工智能。”布雷頓說。

（江蘇科技大學科學技術史研究所副教授楊凱組稿）