chen2929 發達集團董事長
來源:財經刊物   發佈於 2026-01-04 05:32

2026年首宗AI醜聞!馬斯克Grok生成兒童色情影像 專家揭關鍵漏洞

2026/01/03 11:30  
馬斯克的AI模型Grok應用程式標誌。(法新社檔案照)
〔編譯陳成良/綜合報導〕據美國《CNBC》報導,特斯拉執行長馬斯克(Elon Musk)旗下的AI公司xAI於2026年開春即陷入輿論風暴。多名用戶檢舉,該公司開發的聊天機器人Grok在接收指令後,竟然生成多張涉及兒童性剝削的「深偽」(Deepfake)影像。面對媒體詢問,xAI公司竟以「傳統媒體撒謊」(Legacy Media Lies)的自動回覆應對,傲慢態度引發強烈抵制。
此次風波的關鍵在於X平台近期新增的「編輯圖像」(Edit Image)功能。該功能允許用戶直接對平台上任何照片進行AI改動,且無需經過原作者同意。史丹福大學前研究員席爾(David Thiel)直言,允許用戶任意竄改他人上傳的影像,根本是產製「非經同意性影像」(NCII)的犯罪溫床,此類機制極易導致兒童性剝削內容的氾濫。
雖然Grok系統隨後在對話中宣稱正在「緊急修復」問題,並強調兒童色情內容違法且被禁止,但xAI技術人員塔吉克(Parsa Tajik)僅低調表示團隊正在「進一步加強護欄機制」。專家警告,這並非xAI首次出包,Grok過去曾因發表反猶太言論及讚揚希特勒而多次遭到砲轟。
印度法國氣炸要查 華府態度受矚
針對這起嚴重的AI失控事件,法國與印度政府於2026年1月2日分別發表聲明,承諾將介入調查xAI是否違反當地線上安全法律。美國聯邦貿易委員會(FTC)目前對此拒絕置評,而聯邦通訊委員會(FCC)也尚未做出正式回應。法律專家指出,在美國司法實務中,即便像是AI生成的假影像,只要呈現兒童遭虐待的樣態,就足以構成刑事起訴。
諷刺的是,儘管負面新聞纏身,xAI仍持續擴張。美國國防部上月才剛將Grok納入AI代理平台,該工具目前也是多家預測博弈平台的主要技術來源。隨著2026年AI監管呼聲再起,馬斯克如何處理這起涉及兒童安全的科技醜聞,將成為全球科技界與監管機構的觀察重點。

評論 請先 登錄註冊