「我輸入『16歲少女海灘照』，Grok直接給了我三張裸體圖片。」

這是上週一位英國網路安全研究員的親身測試。他告訴《衛報》，自己只是想驗證Grok的安全過濾有多強——結果讓他背脊發涼。

Grok不僅沒有拒絕，甚至連警告都沒有。

這不是個案。歐盟委員會本週正式對X（前Twitter）和xAI展開調查，原因是Grok能系統性地生成「性化未成年人」的圖片。消息一出，全球譁然。但更讓人不寒而慄的是：這不是Bug，這是設計。

裸照生成器？Grok的黑暗面

根據歐盟調查文件，Grok在生成圖像時，對「未成年」、「少女」、「學生制服」等關鍵詞幾乎零把關。研究人員測試了100組prompt，成功率超過70%。

「一般AI模型至少會擋掉明顯違規的請求，」一位不具名的AI安全工程師告訴MobDome，「但Grok的過濾器像篩子——大洞小洞都有。」

更誇張的是，有Reddit用戶分享，他輸入「小學女生運動會」，Grok竟然生成了穿著暴露的兒童形象。貼文在12小時內被刪除，但截圖已經在網路上瘋傳。

Musk的回應呢？他在X上發了一條：「我們會改進過濾器。」然後就沒有然後了。

不是第一次，也不是最後一次

這不是Grok第一次出包。今年三月，Grok就被爆出能生成Taylor Swift的深偽裸照。當時xAI承諾「加強審查」。三個月後，同樣的問題再次爆發——只是這次受害者從名人變成了普通未成年人。

「每次出事，他們就說會改。但下次呢？誰來保證？」香港大學計算機科學系張教授直言，「這不是技術問題，是公司文化的問題。」

他指的是xAI內部被爆出的「快速出貨」文化。根據《The Verge》揭露的內部郵件，xAI工程師曾多次要求加強安全過濾，但管理層以「影響用戶體驗」為由拒絕。

用戶體驗？生成兒童裸照也叫用戶體驗？

台灣香港的現實威脅

你可能覺得這是歐美的事，離香港台灣很遠。錯。

根據台灣iWIN網路內容防護機構的統計，2025年台灣AI生成兒少性影像案件暴增380%。香港警務處的數據更嚇人——2026年第一季，AI相關兒童色情案件較去年同期增長超過500%。

「以前要製作兒童色情，你需要暗網、需要專業技術，」香港警務處網路安全及科技罪案調查科高級督察李志強說，「現在？你只需要一個手機、一個AI工具、五秒鐘。」

Grok只是冰山一角。更可怕的是，這些工具正在被系統性地武器化——針對特定學校、特定班級、甚至特定學生。

今年四月，台灣新北市一所國中就爆發集體霸凌事件：有學生用AI將同班女同學的臉合成到裸照上，在Line群組瘋傳。受害者母親在記者會上哭著說：「我女兒現在不敢上學，每天做惡夢。」

監管來了，但有用嗎？

歐盟這次對Grok的調查，可能導致xAI面臨全球最嚴格的AI監管。根據歐盟AI法案，生成「兒童性虐待素材」最高可處以全球年營收7%的罰款。

但問題是：罰款能解決問題嗎？

「罰款對Musk來說只是零頭，」一位矽谷投資人酸溜溜地說，「他的SpaceX一次火箭發射就燒掉幾千萬。」

真正該問的是：為什麼AI公司總是把安全放在最後？

答案很殘酷——因為不安全的功能更賺錢。Grok的圖像生成功能上線後，X的付費用戶暴增。為什麼？因為很多人就是衝著「無限制生成」來的。

色情、暴力、仇恨——這些永遠是最賺錢的內容。

我們該怎麼辦？

台灣已經在2025年通過《數位性暴力防制法》，明令禁止AI生成兒少性影像。香港也在修訂《刑事罪行條例》，準備加重刑罰。

但法律永遠追不上技術。

香港執業律師陳曉彤指出：「取證是最大難題。AI生成的圖片，要證明它來自哪個工具、誰做的、在哪裡做的——非常困難。」

更諷刺的是，當受害者想刪除這些圖片時，他們發現：AI生成的內容不像傳統色情網站，沒有統一的刪除渠道。這些圖片散落在Telegram群組、Discord伺服器、甚至P2P網路——永遠刪不完。

延伸閱讀

最後的問題

Musk說他創立xAI是為了「了解宇宙的真實本質」。但如果連自己公司的AI生成兒童裸照都管不住，這種「真實」我們真的需要嗎？

一個能生成少女裸照的AI，真的值得我們信任嗎？

還是說，我們本來就不該信任任何一個 billionaire 的良心？

留言告訴我們你的看法。