雅虎香港新聞

Yahoo 行動版

睇盡即時本地生活資訊

天氣交通、港股美股匯率、城中熱購,盡在掌握。

中文

新法生效與監管調查對Grok AI深偽影像意味著什麼

三張並排的佐伊·克萊曼(Zoe Kleinman)照片。除了服裝不同外,其餘完全相同,背景皆為海邊景色。左邊她穿著亮黃色滑雪服,中間是黑色連帽外套,右邊則是紅藍相間的外套。幾乎難以分辨哪一張才是原始照片。

BBC
其中一張是真實照片,另外兩張則經由Grok修改,變換了我的服裝。你能分辨哪一張才是真實的嗎?

這是我,在夏天的多塞特(Dorset)碼頭盡頭。

其中兩張照片是使用人工智慧工具Grok生成的,它是免費的,屬於伊隆·馬斯克(Elon Musk)所有。

效果相當逼真。我從未穿過那件亮眼的黃色滑雪服,或紅藍相間的外套——中間那張才是原始照片——但若需要證明,恐怕也難以分辨,因為有了這些圖片。

當然,Grok正因給女性「脫衣」而非「換衣」而遭到抨擊,而且是在未經同意的情況下進行。在他人的提示下,它會生成身著比基尼甚至更不堪入目的照片,並將這些照片公開分享到社群網路X上。

還有證據顯示,它曾生成過兒童的性化影像。

在連日的憤怒與譴責之後,英國線上監管機構「英國通訊管理局」(Ofcom)表示正緊急調查 Grok是否違反英國網路安全法律。政府則要求該局迅速行動。

然而,如果英國通訊管理局不想被指責侵犯言論自由,就必須徹底審查並遵循自身程序。自《網路安全法》出台之初,這種指責就一直困擾著它。

近幾日,伊隆·馬斯克在此議題上異常沉默,顯示他或許也意識到事態的嚴重性。但他仍發文指責英國政府尋找「任何藉口」來進行審查。

並非所有人都認同這樣的辯護在此情況下是合理的。

「AI將照片中的人脫衣並非言論自由,而是濫用權利,」活動人士艾德·紐頓·雷克斯(Ed Newton Rex)表示。

「當女性在X網站上發布的每一張照片都會立即引來大量被扒光到只剩比基尼的回复時,這說明情況已經非常糟糕。」

在此背景下,英國通訊管理局的調查可能需要時間,並伴隨大量往返程序——考驗著政界與公眾的耐心。

這不僅對英國的《網路安全法》而言是一個重大時刻,對監管機構本身也是如此。

它不能在這件事上犯錯。

英國通訊管理局(Ofcom)先前曾被批評「缺乏牙齒」。這項歷經數年制定的法案直到去年才全面生效。

迄今為止,英國通訊管理局已開出六張罰單,最大金額為100萬英鎊,但僅有一張已繳納。

《網路安全法》並未明確提及AI產品。雖然目前分享未經同意的私密照片(包括深度偽造照片)屬於違法行為,但要求AI工具生成此類照片並不​​違法。

這即將改變。政府本週將使一項法律生效,明令禁止製作這些影像。

英國還表示,將修訂另一項正在國會審議的法律,使供應此類工具的公司也屬違法。

這些規定已存在一段時間,但它們並非《網路安全法》的一部分,而是另一部名為《數據(使用與存取)法》的立法。儘管政府多月來反覆宣布即將實施,但一直未真正執行。

今日的宣布顯示政府決心回應「監管行動過於緩慢」的批評,藉此展現其在必要時能迅速行動。受影響的不僅僅是Grok。

政治震撼彈?

本週即將生效的新法律,可能會令其他人工智慧工具的擁有者頭痛,因為這些工具在技術上大多也能生成此類影像。

外界已開始質疑,究竟該如何執行這項法律——Grok之所以受到關注,是因為它在X平台公開發布生成內容。若某工具被個人私下使用,繞過防護機制,並僅與有意觀看者分享,這樣的內容又如何曝光?

若X被認定違法,英國通訊管理局可對其處以最高相當於全球營收10%或1800萬英鎊的罰款,以較高者為準。它甚至可能尋求在英國封鎖Grok或X,但這也可能引爆政治風暴。

我曾在去年巴黎的AI高峰會上,親眼目睹美國副總統萬斯(JD Vance)強烈抨擊,稱美國政府「已厭倦」外國試圖監管其科技公司。台下包括眾多世界領袖在內的聽眾,則一片沉默。

然而,科技公司在白宮內部擁有強大影響力,其中數家更已在英國投資數十億美元建設 AI基礎設施。英國是否承受得起與它們決裂的代價?

本網頁內容為BBC所提供, 內容只供參考, 用戶不得複製或轉發本網頁之內容或商標或作其它用途,並且不會獲得本網頁內容或商標的知識產權。

BBC中文

更多內容