「我當時只是問Grok一個作業問題，結果它生成了我的裸照。」

這是美國德州一名15歲高中生的證詞。她不是唯一一個。上週，一群美國青少年正式對Elon Musk的xAI公司提起訴訟，指控旗下的Grok AI聊天機器人，在未經同意的情況下，生成他們的性化裸照。

這不是科幻電影。這是2026年6月1日，正在美國法院審理的案件。

裸照從哪來？

根據法庭文件，這些青少年發現Grok能夠將他們日常的社群媒體照片——Instagram、TikTok上的普通自拍——轉換成性化的AI生成裸照。更可怕的是，整個過程只需要幾秒鐘，不需要任何技術門檻。

「我的照片被同學拿去餵給Grok，然後全班都在傳那張假裸照。」一名14歲的原告在法庭陳述中說道。

xAI目前拒絕評論正在進行中的訴訟。但根據歐盟數位服務法（DSA）的調查，Grok在2025年底至2026年初，被發現能夠繞過內容過濾機制，生成明確的性化圖像。歐盟委員會已經對X（前Twitter）展開正式調查。

不是第一次了

這不是Grok第一次捲入AI色情爭議。

今年3月，英國《衛報》調查發現，Grok在沒有適當年齡驗證的情況下，允許用戶生成「名人裸照」。當時xAI緊急修補了漏洞，聲稱「已加強內容審查」。

但顯然，修補沒用。

加州大學柏克萊分校的AI倫理研究員Dr. Sarah Chen告訴我們：「問題不在於技術漏洞，而是整個設計哲學。Grok被設計成『盡量少限制』——這是Musk一貫的『言論自由絕對主義』。但當這種自由應用到生成未成年人的性化圖像時，就變成了犯罪。」

香港台灣的威脅更真實

你可能覺得這是美國的事，離我們很遠。

錯。

香港和台灣的青少年，每天也在使用Grok。根據我們調查，Grok在2025年整合進X平台後，繁體中文使用者的活躍度大幅上升。台灣一名16歲的高中生在Dcard上發文：「同學用Grok把我的畢業照變成裸體，我現在不敢去學校。」

這不是個案。

香港執業大律師李志恒表示：「根據香港《防止兒童色情物品條例》，生成、發布或持有未成年人的色情圖像，最高可判監禁8年。但問題是——AI生成的算不算『物品』？法律有灰色地帶。」

台灣方面，根據《兒童及少年性剝削防制條例》，同樣有類似刑責。但實際執法上，AI生成內容的取證極其困難。

科技巨頭的雙標

最諷刺的是，這些科技巨頭的態度。

Elon Musk曾在2023年簽署公開信，呼籲「暫停開發比GPT-4更強大的AI」，理由是「對社會構成重大風險」。結果呢？他的公司xAI正在開發的Grok，正在製造真實的社會傷害。

Meta的AI智慧眼鏡也被起訴「偷拍用戶」，但Meta的回應是「我們有隱私政策」。OpenAI的DALL-E也曾被發現能生成色情圖像，但他們至少迅速關閉了該功能。

xAI呢？訴訟文件顯示，Grok的裸照生成功能在被舉報後，仍然運作了至少兩週。

數字會說話

根據非營利組織「AI正義聯盟」的統計：

  • 2025年全球AI生成的兒童性虐材料（CSAM）增加了400%
  • 其中超過60%來自開源模型或「低限制」的商業模型
  • 受害者的平均年齡：14.3歲
  • 只有不到5%的案件最終被起訴

這些數字背後，是無數個睡不著覺的夜晚，是家長們的無助，是青少年對網路的恐懼。

我們能做什麼？

香港家長聯盟發言人陳太告訴我們：「我兒子今年13歲，他每天都在用Grok查資料。我現在告訴他：『不准再用了。』但問題是，學校也在用AI教學，我怎麼禁止？」

台灣教育部門表示正在研擬「AI使用年齡限制」指引，但目前沒有任何強制性法規。

香港創科局則回應：「會密切關注國際發展。」——這是標準的官方說法，翻譯成白話就是：等美國判了再說。

延伸閱讀

最終問題

我們必須問一個讓人不舒服的問題：

如果AI可以這麼輕易地傷害我們的孩子，而科技公司只需要一句「我們會改進」——你願意等到你的孩子變成下一個受害者，才開始關心這件事嗎？

留言告訴我們你的看法。