北京時間的6.15凌晨，歐盟議員通過了一項具有里程碑意義的人工智能法規修正案，目的是保護歐洲公民免受Ai技術可能帶來的傷害。這些規則意在為歐盟范圍內使用的各種Ai技術從工廠自動化到機器人和自動駕駛汽車的應用中設立全球標準。

Ai生成丨Midjourney

修正案禁止在生物識別監控中使用Ai，并要求諸如ChatGPT這樣的生成式Ai系統標注其生成的內容。此外，修正案還要求開發“高風險Ai”的公司進行權利影響評估和環境影響評估。像ChatGPT這樣的系統必須明確指出其哪些內容是由Ai生成的，并幫助人們區分深度偽造圖像與真實圖像，同時確保有針對非法內容的防范措施。

盡管微軟、IBM等公司歡迎這一舉措，但他們也期待法規草案能得到進一步的完善。一位微軟發言人表示：“我們認為，Ai需要立法的監管框架、國際層面的協調努力以及開發和部署Ai的公司采取有意義的志愿行動。”

Ai生成丨Midjourney

生成式Ai的危害

雖然生成式Ai在許多方面具有巨大潛力，但它也可能帶來一系列問題。首先，生成式Ai可能加劇虛假信息和假新聞的傳播，從而誤導公眾并破壞民主。此外，通過生成令人信服的深度偽造圖像和視頻，Ai可能對個人隱私造成侵犯，前段時間國內就有一條“Ai詐騙”的新聞上了熱搜。最后，生成式Ai可能被用于制造針對特定人群的有害內容，如仇恨言論和網絡欺凌。

Ai生成丨Midjourney

國內Ai詐騙的新聞，標題和內容都挺“吸引人”

為什么要立法監管Ai

鑒于生成式Ai潛在的危害，嚴格監管是非常必要的。監管有助于確保Ai技術的發展和應用不會損害公共利益，同時也可以防止濫用。通過制定適當的法規和指導原則，監管者可以引導Ai技術的發展方向，以確保其對社會產生積極影響。

Ai生成丨Midjourney

監管Ai的方法有很多：

• 實施立法和法規，為Ai技術設定明確的行為準則。
• 引入透明度要求，確保Ai系統的決策過程和結果可追溯和解釋。
• 鼓勵公司自我監管，建立內部倫理和責任框架。
• 加強國際合作，共同制定全球Ai監管標準和政策。
• 加大對惡意Ai使用的懲罰力度，包括罰款、禁令和刑事處罰。

國內對生成式Ai（類似于GPT）的監管已經行動

在全球范圍內，美國、中國和歐盟等國家、地區正為爭奪Ai領導地位而展開競爭。這些國家紛紛投資于Ai研究和創新，試圖在這一關鍵領域取得優勢。然而，隨著Ai技術的快速發展，各國也意識到了加強監管的重要性。只有在確保技術安全、可靠的前提下，才能為國家和全球社會帶來真正的利益。