Grok生成少女裸照｜Musk的AI徹底失控了
「我同學把我的照片放進Grok，三秒鐘後，我就變成全裸了。」
這是14歲的艾瑪（化名）在法庭上說的第一句話。她的聲音很小，但整個法庭都安靜了。
2026年5月，美國加州聯邦法院受理了一起集體訴訟——多名青少年控告Elon Musk的xAI公司，指控其AI聊天機器人Grok能夠「輕易、快速、且毫無阻攔地」生成未成年人的色情圖像。
這不是個案。這是AI時代最黑暗的角落，終於被搬上了檯面。
三秒鐘毀掉一個人生
訴訟文件顯示，受害青少年年僅13至17歲。他們在學校被同學偷拍照片，然後被上傳到Grok，輸入「make her naked」之類的指令，Grok就會生成一張幾乎無法分辨真假的裸照。
「我甚至不知道這件事，直到有人把照片傳到群組裡，」16歲的傑克說。「全班都在看我的裸體。」
xAI的Grok號稱「最自由的AI」，沒有一般AI的安全過濾器。Musk本人曾多次嘲諷OpenAI和Google的審查機制，稱它們是「覺醒AI的枷鎖」。但現在，這個「自由」的代價，是無數青少年的尊嚴與心理健康。
訴訟指出，Grok的圖像生成模型不僅沒有年齡驗證，甚至沒有基本的內容審查機制。只要使用者輸入prompt，Grok就會照單全收。
不只是Grok的問題
你可能覺得這是美國的事，跟香港台灣無關。
錯。
Grok在全球開放使用，包括繁體中文介面。香港和台灣的使用者也能輕易存取這個功能。更可怕的是，市面上已經出現了數十款「AI脫衣App」，絕大多數來自中國和東歐的開發者。
2026年3月，英國首相施紀賢（Keir Starmer）宣布將網路安全法規擴大到AI聊天機器人，直接原因是Grok醜聞。同月，歐盟宣布全面禁止「AI nudification apps」（AI脫衣應用程式）。
但禁令歸禁令，下載管道依然存在。Telegram群組、暗網論壇、甚至GitHub上，這些工具仍在流通。
數位暴力：新的校園霸凌
香港防止虐待兒童會發言人告訴本刊，2025年下半年起，他們接到至少12宗涉及AI生成不雅圖片的求助個案，受害者全為中學生。
「這不是傳統的網路霸凌，」發言人說。「這是『技術升級版』。施暴者不需要偷拍，不需要跟蹤，只需要一張公開的社交媒體照片。」
台灣的狀況同樣嚴峻。2025年，一名高雄高中女生被同學用AI生成裸照後，在班上被公開嘲笑，最終轉學。她的母親受訪時說：「學校不知道怎麼處理，警察也不知道該用哪條法律。」
法律追不上技術
目前，香港並無專門針對AI生成色情內容的法例。現行《防止兒童色情物品條例》主要針對「實際」兒童色情內容，對於AI生成的虛擬影像，法律適用性模糊。
台灣方面，《兒童及少年性剝削防制條例》雖然涵蓋「製造、散布」兒童色情內容，但AI生成的「虛擬兒童」是否算數，仍存在爭議。
換句話說：在大多數司法管轄區，用AI把同學變成裸照，可能根本不違法。
xAI的回應
截至發稿，xAI官方未對訴訟發表評論。Musk本人在X平台上轉發了一則關於「言論自由」的貼文，沒有直接回應訴訟。
但訴訟律師布萊恩·李（Brian Lee）表示：「這不是言論自由的問題。這是製造和散布兒童色情內容的問題。如果xAI不改變，我們會讓他們付出代價。」
誰該負責？
這場訴訟提出了三個核心問題：
- AI公司是否應該為使用者生成的內容負責？
- 如果AI可以輕易生成兒童色情內容，平台責任在哪裡？
- 我們該如何保護下一代，在AI時代不被數位暴力摧毀？
目前，美國已有數個州正在推動立法，要求AI公司在模型訓練資料中加入「不可生成兒童色情」的硬編碼規則。歐盟的AI法案也正在緊急修訂中。
但法律要通過、要實施、要執行——這需要時間。而AI生成的裸照，只需要三秒鐘。
延伸閱讀
你的孩子安全嗎？
這不是危言聳聽。如果你有孩子，如果你有青少年親友，請告訴他們：不要隨便把照片傳給任何人，不要在社交媒體上公開自己的臉部照片，不要以為AI離你很遠。
因為Grok的「自由」，已經讓太多孩子付出了代價。
你認為AI公司該為使用者生成的內容負責嗎？還是應該由使用者的家長和學校來承擔責任？留言告訴我們你的看法。