IT之家 2 月 11 日消息，OpenAI 在社會活動家和家長的監督之下組建了一個新團隊 —— 研究防止其 AI 工具被兒童誤用或濫用的手段。

OpenAI 官網更新了一則招聘信息，該公司當前正需要一名新的兒童安全執行專家。這項崗位負責在 AI 生成的內容中應用 OpenAI 政策，并制定與“敏感內容”（或與兒童有關）相關的審查流程。

據外媒 TechCrunch 報道，這則招聘信息披露了 OpenAI 旗下兒童安全團隊的存在，該團隊與 OpenAI 內部的平臺政策、法律和調查小組及外部合作伙伴合作，并管理與未成年用戶有關的“流程、事件及審查”。

在美國，具有“一定規模”的科技公司都會投入不少資源以遵守《美國兒童在線隱私保護規則》等法律，這些法律規定了當地兒童可以或不可以訪問的網絡內容，以及科技公司可以收集他們的哪些方面數據。

此外，OpenAI 目前的使用條款對用戶年齡有著這樣的規定：13 至 18 歲的兒童使用前必須征得父母同意，禁止 13 歲以下兒童使用。

據IT之家此前報道，歐盟委員會曾在本月初宣布，根據更新現有立法以跟上技術發展步伐的計劃，人工智能生成的圖像和其他形式描繪兒童性虐待（CSA）的深度偽造行為在歐盟可能會被定為刑事犯罪。歐盟還提議將直播兒童性虐待行為定為新的刑事犯罪。