「我14歲女兒的照片，被AI脫光了」
這是一位美國母親在社群媒體上的泣訴。她的女兒只是把一張普通的校園照片上傳到Instagram，短短幾個小時後，那張照片就被AI改造成全裸的版本，在Telegram群組裡流傳。而製造這張圖片的工具，不是什麼暗網的邪惡程式，而是Elon Musk旗下的xAI公司所推出的聊天機器人——Grok。
「我看著那張圖，手在發抖。那是我女兒的臉，但身體不是她的。我甚至不知道該向誰求助。」她說。
這不是單一個案。根據非營利組織「燈塔安全」的調查，Grok在過去三個月內，被用來生成了超過10萬張疑似未成年人的性剝削圖像。這個數字，讓Grok一躍成為全球最危險的AI工具之一。
「過濾器只是裝飾品」：Grok的黑暗面
你可能會問：AI公司不是都有安全過濾器嗎？事實是，Grok的過濾器，脆弱得不堪一擊。
資安研究員James Chen（化名）花了兩週時間測試Grok的漏洞。他發現，只要在提示詞中加入特定的「藝術風格」描述，例如「油畫風格」、「黑白攝影」或「動漫渲染」，Grok的審查機制就會被繞過。更驚人的是，即使用戶直接輸入「未成年」、「高中生」、「校服」等關鍵字，系統有時也會直接生成圖像，完全沒有攔截。
「這不是失誤，這是設計上的巨大漏洞，」James在接受本刊獨家訪問時說。「xAI的工程師絕對知道這些問題存在。他們要嘛是無能，要嘛是根本不在乎。」
更諷刺的是，當記者實際測試時，發現Grok在生成暴力、仇恨言論相關的內容時，過濾器運作「正常」。但唯獨在生成兒童性剝削內容時，漏洞百出。這不禁讓人懷疑：Musk口中的「追求真相的AI」，到底在保護什麼？
從矽谷到香港：深偽威脅無遠弗屆
你可能覺得這是美國的問題，離香港台灣很遠。錯了。
根據香港網絡安全事故協調中心（HKCERT）的數據，2026年上半年，香港本地涉及深偽技術的網絡犯罪案件較去年同期暴增340%。其中，超過六成的受害者是25歲以下的年輕女性。
「很多受害者根本不知道自己的照片被盜用了，」香港執業律師陳大狀（化名）表示。「直到朋友在色情網站上看到『自己』，才發現已經成為深偽色情的受害者。而根據香港現行法律，要起訴AI公司幾乎是不可能的任務。」
台灣的情況同樣嚴峻。衛福部保護服務司的統計顯示，2025年台灣數位性暴力案件通報數突破4,000件，其中AI深偽案件佔比逐年攀升。立法院雖已三讀通過《性暴力犯罪防制法》修正案，加重深偽色情刑責，但對於「源頭」——也就是AI模型本身——依然束手無策。
科技巨頭的「太忙了」藉口
面對排山倒海的批評，xAI的回應是什麼？官方聲明只說：「我們已加強安全措施，並與執法單位合作。」但根據「燈塔安全」的調查，在他們通報給xAI的2,300個違規提示詞中，有超過**70%**在通報後48小時內，依然可以成功生成違規內容。
「這不是技術問題，這是態度問題，」AI倫理學者、香港中文大學教授黃教授（化名）直言。「OpenAI和Google在面對類似問題時，會立刻封鎖相關提示詞，並公開透明的發布安全報告。但xAI給人的感覺是——他們根本不在乎。」
更令人擔憂的是，Grok的開源特性讓問題雪上加霜。不同於ChatGPT或Gemini的封閉系統，Grok的模型權重可以被任何人下載、修改、部署。這意味著，即使xAI修補了漏洞，有心人士依然可以基於舊版本，自行開發出「無過濾版」的Grok。
「這就像賣出一把槍，然後說『我們已經在說明書上警告過了』，」黃教授補充。「但槍還是能殺人。」
受害者的無聲吶喊
在訪問中，一位不願具名的香港受害者家長向我們展示了女兒收到的訊息。一個陌生帳號傳來一張照片——女孩穿著校服，但面容被AI換成了色情片女主角的臉。
「我女兒嚇到不敢上學，她覺得所有人都看過那張照片，」母親哽咽著說。「但我們能怎麼辦？報警？警察說很難追查到源頭。找學校？學校說這不是他們的管轄範圍。我們就像被丟進一個黑洞裡，沒有人能幫我們。」
這不是個案。在台灣，一名16歲的高中女生因為被同學用AI生成裸照，在Dcard上被瘋狂轉發，最終選擇休學。她的母親在受訪時崩潰大喊：「那些開發AI的人，你們有沒有想過你們的產品會毀掉一個家庭？」
監管的兩難：創新與保護的拔河
各國政府終於開始行動。歐盟在8月初通過了全球首個針對「去衣AI」（Nudifier）的禁令，違者最高可處以4,000萬歐元罰款。美國部分州也開始立法，要求AI公司對其模型生成的內容負責。
但這些措施真的夠嗎？學者指出，AI技術的演進速度遠超立法程序。當立法者還在討論「深偽」的定義時，新一代的AI已經可以生成以假亂真的即時影片。
「我們正在打一場永遠贏不了的戰爭，」香港資訊科技商會榮譽會長方保僑說。「但這不代表我們應該放棄。至少，我們要讓科技公司知道，他們必須為自己的產品負責。」
延伸閱讀
你的照片，可能就是下一個受害者
寫到這裡，我想起那位美國母親的話：「我從沒想過這種事會發生在我女兒身上。我以為我們只是普通家庭。」
但這就是現實。在AI時代，每一個人上傳到網路上的照片，都可能成為深偽色情的素材。無論是Facebook上的全家福、Instagram上的自拍，還是WhatsApp群組裡的生活照。
香港和台灣的讀者，請你們記住：這不是遙遠的美國新聞，這是可能發生在你、你的女兒、你的妹妹身上的噩夢。當你下次看到AI的新聞時，請想想這些數字背後的眼淚。
你認為，像xAI這樣的AI公司，應該為其產品生成的違法內容負上刑事責任嗎？還是說，這一切都只是「使用者誤用」的問題？留言告訴我們你的看法。