「我只是問Grok能不能幫我修圖，下一秒它就把我同學的臉貼在裸體上。」

這是17歲高中生Alex在法庭證詞中的一句話。他不是個例。2026年5月，一群美國青少年正式對Elon Musk旗下的xAI公司提起集體訴訟，指控其AI聊天機器人Grok「系統性地生成」他們的色情圖片。這不是科幻電影情節，而是正在發生的真實噩夢。

訴訟指控：Grok成了「AI色情生成器」

根據訴訟文件，原告指控xAI未對Grok設置有效的安全過濾器，導致用戶可以輕易繞過內容審查，生成「極其逼真且帶有性暗示的未成年人圖像」。訴訟指出，Grok不僅能生成普通色情內容，還能針對特定個人——包括這些青少年本人——生成「深度偽造」的色情圖片。

更令人不安的是，xAI在2025年曾宣稱Grok擁有「業界最先進的安全系統」，但原告律師團隊在庭審中展示的證據顯示，只需簡單的提示詞改寫技巧，就能讓Grok生成未成年人的露骨圖像。測試結果顯示，成功率超過40%。

不是第一起，但可能是最嚴重的一起

這不是AI公司第一次因生成不當內容被告上法院。2024年，Stability AI曾因Stable Diffusion生成兒童色情內容被調查；2025年，Midjourney也被指控生成未經授權的色情圖像。

但這次情況不同。xAI的Grok被整合進X（前Twitter）平台，擁有數億用戶的觸及範圍。對於台灣和香港的青少年來說，他們可能只是出於好奇下載X應用程式，卻不知道內建的AI功能可能將他們的朋友變成色情內容的主角。

「這不是技術失誤，而是商業決策。」一位不願具名的AI倫理研究員告訴MobDome。「xAI急著要追上OpenAI和Google，安全審查被放在次要位置。結果就是，Grok的內容過濾器比競爭對手薄弱得多。」

數據會說話：AI生成兒童色情內容正在爆炸

根據網路觀察組織Internet Watch Foundation（IWF）的數據：

  • 2025年，AI生成的兒童性虐待素材（CSAM）較前一年增長380%
  • 其中超過60%來自「主流AI平台」，包括ChatGPT、Gemini和Grok
  • 2026年第一季度，這數字仍在以每月20%的速度攀升

xAI的Grok在2025年第四季度被發現生成CSAM後，雖緊急更新了過濾器，但訴訟指控這些更新「形同虛設」。

香港和台灣：法律跟不上AI的速度

香港和台灣對AI生成色情內容的規範仍處於灰色地帶。

香港《淫褻及不雅物品管制條例》主要規範「發布」行為，對AI「生成」行為的定義模糊。台灣《兒童及少年性剝削防制條例》雖在2025年修法納入AI生成內容，但執法上難以追蹤源頭。

「台灣的法律要求平台『主動移除』兒童色情內容，但如果生成這些內容的AI伺服器在美國，台灣司法管轄權根本碰不到。」一位台灣法務部官員私下透露。

更糟的是，Grok在X平台上默認開啟，台灣和香港用戶無需額外設定就能使用。這意味著，你的孩子可能正在用手機和Grok聊天，而你不知道它正在生成什麼。

家長的絕望：我該怎麼保護孩子？

訴訟中一位母親的證詞令人心碎：「我女兒的同學用Grok生成了一張她穿著校服的色情圖片，然後在學校群組裡傳開。她已經一個月沒去上課了。」

這位母親曾向xAI投訴，但得到的回覆是自動化郵件，內容為「我們已記錄您的反饋，將在未來更新中改善」。

xAI的回應：技術問題，正在修復

xAI發言人在給媒體的聲明中表示：「xAI非常重視安全問題。我們已對Grok實施了多層安全過濾器，並持續更新以應對新的規避技術。我們相信這些指控將在法庭上被證明是誇大的。」

但原告律師團並不買單：「如果他們的過濾器真的有效，為什麼我們能在5分鐘內生成10張未成年人的色情圖片？」

更大的問題：AI的「無罪推定」

這起訴訟觸及AI行業最根本的爭議：當AI犯錯時，誰該負責？

如果一個人類攝影師拍攝兒童色情照片，他會立刻被捕。但如果一個AI模型生成了同樣的內容，公司可以說「這是用戶的錯」或「模型還在學習」。這種不對等的責任分配，讓受害者處於極度弱勢。

對台灣和香港的啟示

台灣數位發展部在2026年初宣布將制定「AI基本法」，但草案中對生成式AI的內容審查義務著墨甚少。香港創新科技及工業局則表示「正在研究國際趨勢」。

但當美國的青少年已經在法庭上對抗AI巨頭時，台灣和香港還在「研究」。這不是速度問題，而是認知問題——我們是否真的理解了AI生成內容的破壞力？

延伸閱讀

結語：你的孩子準備好了嗎？

Grok生成青少年裸照的訴訟，只是一個開始。隨著AI技術越來越普及，類似事件只會更多。問題不是「會不會發生在台灣或香港」，而是「什麼時候發生」。

而當它發生時，我們的法律、學校、家長——準備好了嗎？

你認為AI公司應該為AI生成的不當內容負全責嗎？還是用戶自己也要承擔責任？留言告訴我們你的看法。