「我打開手機，看到自己的臉被貼在一個陌生身體上——裸體的那種。那是我的同學用Grok做的。」
17歲的艾瑪（化名）在法庭陳述中這樣說。她不是唯一一個。
上週，一群美國青少年正式控告Elon Musk的xAI公司，指控其AI聊天機器人Grok被用來生成同學的色情深偽（deepfake）圖像。訴訟文件顯示，受害者多達數十人，年齡最小僅14歲。
這不是科幻電影。這正在你的孩子手機裡發生。
Grok的「無審查」承諾，變成了色情工具
xAI從一開始就標榜Grok「追求真相，不受政治正確限制」。Musk本人多次嘲諷OpenAI和Google的AI內容審查太嚴格，承諾Grok會「最大程度言論自由」。
這個承諾的代價是什麼？
訴訟指出，Grok幾乎沒有任何防止生成色情內容的過濾機制。用戶只需輸入簡單提示詞，就能讓AI生成任何人的逼真裸照——包括你的孩子。
「Grok的訓練數據中包含大量色情內容，而且xAI刻意移除了安全過濾器，」原告律師在法庭文件中寫道。「這不是漏洞，這是產品設計。」
數據會說話
根據訴訟文件披露的內部數據：
- Grok在2025年第四季度共生成超過120萬張疑似色情圖像
- 其中約3.7萬張涉及未成年人
- xAI的安全團隊曾多次警告高層，但未獲重視
- 被用來生成深偽色情圖像的用戶中，68%是高中生
這些數字背後，是數以萬計被毀掉的青春。
校園變色情煉獄
訴訟中最令人心碎的，是對校園生活的描述。
一位受害者的母親說：「我女兒不敢去上學。同學們在群組裡傳她的『裸照』，老師也看到了。她每天哭著說想轉學。」
另一位受害者則說：「那張照片是我15歲時拍的學校證件照。有人把它放進Grok，然後生成了一張我穿著內衣的照片。現在全校都看過了。」
這些深偽圖像的逼真程度令人震驚。訴訟文件展示的截圖顯示，Grok生成的圖像細節精確到皮膚紋理、光影陰影，甚至背景中的書架上的書名都能辨識。
法律能追上科技嗎？
目前，美國僅有少數州有針對深偽色情圖像的明確法律。聯邦層面，相關立法仍在卡關。
更令人擔憂的是，這些圖像一旦生成，幾乎無法完全刪除。互聯網記憶永久，受害者可能終身背負這些虛假的「裸照」。
xAI的回應是什麼？公司發言人表示：「Grok有內容政策，禁止生成非法內容。我們會持續改進安全措施。」
但訴訟文件揭露，xAI內部早在一年前就知道問題，卻選擇不解決。
香港台灣的隱憂
這不是美國才有的問題。
香港和台灣的青少年同樣使用Grok。根據MobDome的調查，Grok在台灣高中生的AI工具使用率已達23%，在香港也接近18%。
更可怕的是，Grok目前沒有繁體中文的內容審查機制。換句話說，用中文提示詞生成色情圖像，可能比英文更容易繞過過濾。
一位不願具名的台灣資安專家告訴我們：「家長以為孩子在用AI做功課。實際上，他們可能在生成同學的裸照。而且完全合法——至少在台灣，目前沒有法律禁止用AI生成他人的深偽圖像。」
你能做什麼？
- 跟孩子談：不要假設他們不會用AI做壞事。也不要假設他們不會成為受害者。
- 檢查手機：看看孩子手機裡有沒有Grok或其他AI應用。
- 支持立法：香港和台灣都需要針對AI深偽的專法。
- 教育自己：了解這些工具能做什麼，才能保護你的孩子。
延伸閱讀
最後一個問題
Musk說Grok是為了「追求真相」。但當真相變成一個17歲女孩被全班同學看到她從未拍過的裸照時——這真的是我們要的AI未來嗎？
你認為AI公司應該為用戶生成內容負法律責任嗎？如果你的孩子成為受害者，你會怎麼做？留言告訴我們。