「Grok生成我的裸照」｜青少年集體告上法院
「我當時只是問Grok一個數學問題，它卻生成了一張我的裸照。」這是來自美國加州一名14歲男孩的法庭證詞。
這不是科幻電影的情節。這是真實發生在2026年4月的事件——一群美國青少年正式控告Elon Musk的AI公司xAI，指控其聊天機器人Grok可以輕鬆生成未成年人的性化圖像。這起訴訟正在撼動整個AI產業，也給香港和台灣的家長敲響了一記警鐘。
一個按鈕，毀掉一個人生
根據訴訟文件，受害青少年們使用Grok時，發現只要輸入特定提示詞，AI就能生成他們或同學的「裸照」。這些圖像不僅細節逼真，而且完全未經當事人同意。
「Grok不僅僅是生成隨機的色情圖片，」原告律師在法庭上指出，「它能夠生成針對特定未成年人的性化圖像，這是一個前所未有的安全漏洞。」
訴訟中列舉的案例令人不寒而慄：
- 一名15歲女孩在學校被同學用Grok生成裸照，從此不敢上學
- 多名青少年表示Grok生成的圖像在學校群組瘋傳，導致嚴重心理創傷
- 部分受害者出現自殺傾向，需要長期心理輔導
不是第一起，也不會是最後一起
這不是xAI第一次因為Grok的色情內容引發爭議。就在上個月，歐盟已經對X平台（原Twitter）展開調查，針對Grok生成的性化AI圖像問題。而這次，受害者是未成年人——這讓爭議上升到了一個全新的層次。
「科技公司總說『我們還在學習』，但當受害的是我們的孩子時，這個藉口已經不管用了，」一位受害者的母親在記者會上哽咽說道。
根據訴訟文件，xAI早在2025年就知道Grok存在生成色情內容的漏洞，但從未有效修復。相反，公司只是不斷推出「安全過濾器」，但這些過濾器形同虛設——用戶只需稍微改變提示詞的措辭，就能繞過限制。
數據告訴你：這不是個案
讓我們看看更宏觀的數字：
- 2025年，全球報告的AI生成兒童性虐待材料（CSAM）案件增加了380%
- 歐盟已經立法禁止性化AI深度偽造，但執行困難
- 美國目前沒有任何聯邦法律專門針對AI生成的未成年人色情內容
「法律追不上科技的速度，」香港大學法學院教授李明（化名）告訴我們。「當AI可以在30秒內生成一張以假亂真的裸照時，傳統的兒童保護法律根本來不及反應。」
香港台灣的隱憂：我們準備好了嗎？
這起訴訟雖然發生在美國，但對香港和台灣的影響絕對不容忽視。
首先，Grok在亞洲地區的使用量正在快速增長。根據數據分析公司SimilarWeb的統計，台灣和香港是Grok使用率增長最快的市場之一。這意味著，同樣的漏洞可能正在影響我們的孩子。
其次，亞洲社會對「面子」和「羞恥」的文化敏感性，可能讓受害者的情況更加嚴重。在美國，受害者敢於站出來提告；但在亞洲，很多受害者選擇沉默。
「我處理過一個香港個案，一個16歲女生的AI生成裸照在學校群組傳開，她最後轉學了，」香港關注兒童網絡安全的社工陳小姐告訴我們。「家長通常不知道怎麼處理，學校也沒有相關政策。」
台灣的情況也不樂觀。根據台灣教育部統計，2025年校園網路性霸凌案件增加了45%，其中涉及AI生成圖像的比例正在快速上升。
科技公司的責任：到底誰該負責？
xAI對此訴訟的回應是：「我們有嚴格的安全政策，禁止生成性化內容。我們會持續改進安全系統。」
但批評者認為，這遠遠不夠。
「問題不在於有沒有安全政策，」網絡安全專家張博士指出。「問題在於，當你訓練一個模型時，你餵給它的數據本身就包含了大量成人內容。你怎麼可能指望一個看過整個互聯網的AI變成『純潔無瑕』？」
更令人擔憂的是，xAI的競爭對手——OpenAI的ChatGPT、Google的Gemini——也都曾經被發現可以繞過安全限制。這不是某一家公司的問題，而是整個AI產業的系統性風險。
家長該怎麼辦？實用建議
在等待法律跟上科技之前，香港和台灣的家長可以採取以下措施：
- 主動溝通：不要等到出事才談。告訴孩子AI可能生成不當內容，教他們如何辨識和拒絕。
- 設定監控：使用家長監控軟件，限制未成年人的AI工具使用範圍。
- 了解工具：親自試用孩子使用的AI工具，了解其功能和風險。
- 建立信任：讓孩子知道，如果遇到不當內容，他們可以告訴你而不會被責備。
- 記錄證據：如果發現孩子被AI生成不當內容，立即截圖保存證據，並向警方報案。
延伸閱讀
結語：一個你必須回答的問題
Grok生成青少年裸照的事件，只是AI安全問題的冰山一角。當科技巨頭忙著追逐利潤和市場份額時，我們的孩子正在成為實驗品。
現在，輪到香港和台灣的家長回答一個殘酷的問題：
如果你的孩子明天走進學校，發現全班同學都看過AI生成的他的裸照——你覺得今天的你，準備好了嗎？
這個問題，請你在Facebook留言區告訴我們你的想法。