OpenAI計劃在其熱門聊天機器人ChatGPT上開放更廣泛的內容,包括色情作品,這是其「將成人用戶視為成年人」(treat adult users like adults)原則的一部分,該公司營運長山姆·阿特曼(Sam Altman,山姆·奧爾特曼)表示。
阿特曼周二在社交媒體X上發文表示,即將推出的熱門聊天機器人版本將使其行為「更像人類」——「但僅限於你想要的情況,而不是因為我們在最大化使用量」。
這一舉措讓人聯想到伊隆·馬斯克 (Elon Musk) 的xAI最近為Grok推出兩個性暗示聊天機器人,可能有助OpenAI吸引更多付費用戶。
這也可能加劇對立法者的壓力,要求對聊天機器人伴侶實施更嚴格的限制。
迄今,OpenAI尚未回應BBC的置評請求。
但阿特曼表示,OpenAI先前對ChatGPT進行了「相當嚴格的限制,以確保我們謹慎處理心理健康問題」。
這些變更於今年8月在一篇部落格文章中宣布,但該文章現已從OpenAI網站上消失。
「我們意識到,這讓許多沒有心理健康問題的用戶覺得產品不夠實用或有趣,但鑑於問題的嚴重性,我們希望先做好這件事,」阿特曼本周二在貼文中解釋。
他又表示ChatGPT很快就能放寬這些限制,「因為我們已經能夠緩解嚴重的精神健康問題,並擁有新工具」。
阿特曼還補充道:「隨著我們更全面地推出年齡驗證,並作為我們『將成人用戶視為成人』原則的一部分,我們將在12月允許更多內容,例如為已驗證成人提供色情作品。」
這些變更是在今年稍早OpenAI被一名自殺美國青少年的父母起訴之後做出的。
馬特和瑪麗亞·萊恩(Matt and Maria Raine)夫婦——也是16歲亞當·萊恩(Adam Raine)的父母——對該公司提起訴訟。這是首例指控OpenAI過失致人死亡的法律訴訟。
該家族提供了亞當·萊恩(四月過世)與ChatGPT的聊天記錄,顯示他向機器人解釋自己有自殺念頭。
當時OpenAI向BBC表示,正在審查該訴狀。「我們對萊恩家族在此艱難時刻致以最深切的慰問」,該公司說。
事實上,根據英國《網路安全法》(Online Safety Act),書面色情作品無需年齡驗證。
然而,色情圖像(包括AI生成的)則要求用戶證明年滿18歲。
在美國,批評人士認為,OpenAI允許在其平台上發布色情內容的決定表明,聯邦和州一級需要加強監管。
「他們要如何確保兒童無法存取ChatGPT的成人專屬部分,並提供色情內容?」律師事務所「博伊斯·席勒·弗萊克斯納」(Boies Schiller Flexner)合夥人珍妮·金(Jenny Kim)表示。
金女士參與一宗針對Meta(臉書)的訴訟,該訴訟指控該公司Instagram的演算法損害青少年用戶的心理健康:「OpenAI和大多數科技巨頭一樣,只是在把人們當成小白鼠,」她說。
四月,美國科技博客網站TechCrunch報導稱,OpenAI允許註冊為未成年人的帳戶生成圖像色情內容。
OpenAI當時表示,公司正在推出修復措施,以限制此類內容。
本月由非營利組織「民主與科技中心」(Centre for Democracy and Technology)公布的一項調查研究發現,有5分之1的學生稱他們或他們認識的人曾與AI發展「浪漫關係」。
星期一,加州州長加文·紐森 (Gavin Newsom) 否決了州議會通過的一項法案,該法案原本將禁止開發者向兒童提供AI聊天機器人伴侶,除非公司能保證軟體不會助長有害行為。
紐森在否決附帶訊息中表示,「青少年必須學會如何安全地與人工智慧系統互動」。
在全國層面,美國聯邦貿易委員會(FTC)已啟動調查,探討AI聊天機器人如何與兒童互動。
上個月,美國參議院提出兩黨立法,允許聊天機器人用戶向開發者提起責任索賠。
阿特曼週二的宣布,正值懷疑者質疑AI科技公司市值快速上漲之際。
OpenAI的營收正在成長,但從未實現獲利。
《風險投資煉金術》作者、圖蘭大學商業教授羅博·拉爾卡(Rob Lalka)分析,原因主要是AI公司正陷入市場份額之戰。他向BBC解釋「沒有哪家公司像OpenAI的ChatGPT那樣擁有如此高的採用率」。
「他們需要繼續推動那條指數成長曲線,盡可能實現市場主導,」他補充道。
本網頁內容為BBC所提供, 內容只供參考, 用戶不得複製或轉發本網頁之內容或商標或作其它用途,並且不會獲得本網頁內容或商標的知識產權。
16/10/2025 05:00PM
16/10/2025 05:00PM
16/10/2025 05:00PM