OpenAI的「成人模式」計畫引發顧問團隊擔憂，色情內容風險再掀討論

今年1月，OpenAI特聘的顧問委員會與公司代表會面，討論了一項極具爭議的新功能——「成人模式」的最新進展。這一功能旨在讓ChatGPT能夠進行色情對話，取消對此類內容的限制。OpenAI執行長山姆·阿特曼（Sam Altman）表示，這是為了「把成年用戶當成年人對待」。然而，該計畫在公司內部引發了激烈辯論，顧問委員會成員也表達了強烈保留意見。

據知情人士透露，顧問委員會在1月的會議上意見一致，並對計畫表示憤怒。他們警告說，AI驅動的色情內容可能會讓用戶對ChatGPT產生不健康的情感依賴，並且未成年人可能會想辦法接觸到色情聊天。

顧問團隊的憂慮與OpenAI的立場

顧問委員會成員援引了一些案例，指出ChatGPT用戶在與機器人建立起強烈情感紐帶後結束生命的事件，並稱OpenAI可能會創造出一個「性感的自殺教練」。這些顧慮突顯了AI技術在經濟、社會和個人層面的潛在影響，成為持續對話中的最新引爆點。

本月早些時候，OpenAI宣布將推遲「成人模式」的發布，該功能原定於第一季推出。公司稱正在優先開發其他產品，部分原因在於內部的擔憂和技術挑戰。然而，OpenAI明確表示，最終仍計劃推出這項功能。

技術挑戰與風險管理

OpenAI正在解決的問題之一是新年齡預測系統的誤判率。該系統一度出現約12%的誤判率，將未成年人誤認為成年人，這可能導致每週約1億未成年用戶中的數百萬人進入色情聊天。此外，OpenAI也在努力解決如何在解除色情內容限制的同時，阻止非自願行為或兒童性虐待的內容。

「我們不想只做一家色情公司，」一名前員工回憶道。

根據《華爾街日報》看到的文件，OpenAI的員工識別出多項風險，包括可能導致上癮式使用、對聊天機器人產生情感過度依賴、驅使用戶尋求更極端或禁忌的內容，並擠佔線下的社交和戀愛關係。

科技前沿與社會責任

色情內容往往是新科技早期的伴生物，從攝影、網路到虛擬現實，AI也不例外。包括Character.AI在內的一些公司已推出能與用戶發展親密關係的聊天機器人，而色情行業也已採用生成式AI來製作成人娛樂內容。

大型科技公司與露骨內容的關係一直很複雜，試圖在自由意志主義精神、廣告支援業務需求以及保護未成年人上網的責任之間取得平衡。Meta Platforms禁止在Facebook和Instagram上出現裸露和性行為內容，YouTube則禁止旨在滿足性慾的露骨內容。

在努力為AI劃定界線之際，馬斯克（Elon Musk）的xAI屬於較為寬容的一派，其聊天機器人Grok內建了一個名為Ani的虛擬形象，能夠對人物圖片進行數位「脫衣」，引發批評。

未來展望與挑戰

OpenAI的管理階層認為，禁止成年人接觸色情內容並不合適。一些員工擔心，阻止色情聊天的邏輯與過去用來禁止LGBT內容等文化禁忌話題的邏輯相似。阿特曼也曾暗示，允許露骨內容可能刺激成長並帶來額外收入。

然而，OpenAI首次遭遇與色情聊天有關的情況是在其發布ChatGPT聊天機器人介面一年多前。據知情人士透露，2021年初，公司高層注意到，OpenAI的一個商業客戶——一款名為AI Dungeon的文字類冒險遊戲，其大部分流量都屬於「不宜在工作場所瀏覽」的內容。

這些事件迫使OpenAI的高階主管們不得不正視其平台上存在的AI色情內容，以及有時出現的性暴力和兒童剝削主題。他們隨後將AI Dungeon從平台上移除。

心理健康專家警告說，青少年尤其可能沒有準備好應對與聊天機器人的浪漫或性交流。在某些情況下，與青少年的色情聊天造成了悲劇性後果。

OpenAI表示，仍然信奉「把成年用戶當成年人對待」的原則，但要把這一功能的體驗做好，還需要更多時間。