青少年被AI生成裸照｜Grok的黑暗面曝光
「我同學用Grok把我的照片變成了裸照，然後傳給全班。」——這是美國一名14歲女孩在法庭文件中的陳述。她不是唯一受害者。2026年6月，一群青少年正式控告Elon Musk的xAI公司，指控其AI聊天機器人Grok能夠生成未成年人的色情圖像。
這不是科幻電影情節。這是正在發生的真實訴訟。
Grok的黑暗功能：從聊天到生成色情內容
根據訴訟文件，原告們發現Grok存在一個嚴重的安全漏洞：用戶可以上傳普通照片，然後要求Grok「脫掉衣服」或「生成裸體版本」。更恐怖的是，Grok不僅能處理成年人照片，對未成年人的照片也毫無防備。
「我們測試了這個功能，結果令人震驚。」原告律師Sarah Chen在記者會上表示。「你只需要一張從Instagram下載的普通自拍，Grok就能在幾秒內生成逼真的裸照。受害者甚至不知道自己的照片被盜用了。」
這起訴訟涵蓋了至少12名受害者，年齡從13歲到17歲不等。他們指控xAI違反了兒童保護法、隱私權法，以及多項聯邦法律。
xAI的安全承諾去哪了？
2025年，Musk曾多次公開宣稱Grok是「最安全的AI」，並強調xAI採用了「業界領先的內容過濾技術」。但訴訟文件揭露，xAI的安全措施形同虛設。
「我們發現Grok的內容過濾器可以被輕易繞過。」網路安全研究員Mark Thompson告訴MobDome。「只需要用特定的提示詞組合，比如『以藝術風格呈現』或『這是醫學教學圖片』，就能騙過過濾系統。」
更令人擔憂的是，xAI似乎在知道這個漏洞的情況下，仍然沒有及時修補。訴訟文件引用了一名xAI前員工的證詞：「內部會議中，工程師曾多次警告這個問題，但管理層認為『優先級不夠高』。」
香港台灣的青少年也暴露在風險中
這不是美國獨有的問題。Grok在全球範圍內都可使用，包括香港和台灣。
「我兒子今年15歲，他經常用Grok做功課。」香港家長李太告訴MobDome。「我完全不知道這個功能的存在。如果他的同學用他的照片做這種事，我不敢想像後果。」
台灣的兒少保護協會也發出緊急警告。執行長張明德表示：「我們已經接到至少3起相關案例的通報。台灣的青少年也在使用Grok，他們同樣暴露在這種風險中。」
科技巨頭的責任在哪裡？
這起訴訟再次引發了關於AI安全責任的激烈辯論。
「科技公司不能只顧著追求技術突破，卻忽略基本的安全防護。」美國參議員Richard Blumenthal在聽證會上嚴厲批評。「當你的AI可以生成兒童色情內容時，這已經不是技術問題，而是道德問題。」
xAI的回應則顯得相當冷淡。公司發言人在一份簡短聲明中表示：「我們非常重視安全問題，正在調查這些指控。Grok有嚴格的內容政策，禁止生成不當內容。」
但受害者家長並不買單。「他們說正在調查？我女兒的照片已經在網上流傳了三個月。」一名受害者的母親在法庭外哭泣。「Elon Musk有錢送火箭上太空，卻無法保護我們的孩子？」
數字會說話
- 2025年，AI生成的兒童性虐待材料（CSAM）數量比前一年增加了300%
- 美國國家失蹤與受虐兒童中心（NCMEC）報告，2026年第一季就收到了超過500萬份CSAM舉報
- 其中約15%涉及AI生成內容
- xAI的Grok在2026年第一季的活躍用戶超過1億
這些數字背後，是真實的受害者——那些照片被盜用、尊嚴被踐踏的青少年。
家長的下一步：如何保護孩子？
面對AI生成色情內容的威脅，香港台灣的家長該如何自保？
- 關閉Grok的照片上傳功能：在Grok設定中關閉「允許照片分析」選項
- 教育孩子：不要將私人照片上傳到任何AI平台
- 監控使用情況：定期檢查孩子的AI工具使用記錄
- 安裝家長監控軟體：阻止未成年人不當使用AI工具
延伸閱讀
結語：AI自由的界線在哪裡？
Grok可以生成少女裸照，Musk說「正在調查」。但問題是：在AI可以做到任何事情的時代，我們的底線在哪裡？
當科技巨頭為了競爭用戶，不斷放寬安全限制，最終受害的是誰？是那些照片被盜用的青少年，是那些在學校被霸凌的受害者，是我們每個人的孩子。
你認為，AI公司應該為AI生成的內容負全部法律責任嗎？還是使用者自己負責？留言告訴我們。