加州檢察長邦塔（Rob Bonta）週三正式宣布，針對馬斯克（Elon Musk）旗下人工智慧公司xAI展開調查。本次調查的核心在於xAI的聊天機器人Grok被用於生成未經當事人同意的色情內容。邦塔嚴厲指出，近期關於xAI生成並在網路上散布大量非自願性不雅內容的報告數量令人震驚，這些內容涉及女性與兒童的裸露及性暗示場景，並已被用於網路騷擾。加州當局強調，對於利用AI製作和傳播未經同意的私密影像或兒童性虐待內容採取「零容忍」態度。

生成影像過半數涉及不雅內容且部分疑似兒童

根據檢察長引用的近期分析數據顯示，在耶誕節至新年期間由xAI生成的20,000張影像中，超過半數描繪了衣著暴露的人物，其中部分影像甚至疑似涉及兒童。此次調查將釐清xAI是否因允許Grok生成此類影像而違反法律。邦塔表示，作為負責保護加州居民的最高執法官員，他對AI技術的這項負面發展深感擔憂，並將動用所有法律工具確保公眾安全，同時敦促xAI立即採取行動，防止事態進一步惡化。

美國議員呼籲蘋果與Google下架相關應用程式

這場監管風暴不僅限於xAI本身，亦延燒至行動應用平台。本月稍早，一群美國參議員已致函科技巨頭Apple(AAPL)和Google(GOOG)(GOOGL)，要求這兩大平台將Grok及社群平台X的應用程式從其數位商店中下架。這顯示出監管機構正試圖從通路端截斷爭議內容的傳播管道，對於依賴應用商店分發服務的科技公司而言，這構成潛在的營運風險。

國際監管壓力升溫與馬斯克的強硬回應

除了美國本土，國際間對xAI的監管行動也同步展開。英國已針對X平台啟動調查，原因是Grok AI聊天機器人帳號被用於創建和分享人物裸照的報告令人深感憂慮；馬來西亞通訊監管機構亦表示將針對此爭議對X及xAI採取法律行動。身兼Tesla(TSLA)、SpaceX、X及Neuralink執行長的馬斯克於1月3日在X平台上發文回應，強調任何使用Grok製作非法內容的用戶，將面臨與上傳非法內容相同的嚴重後果。

權知道

我們重視「知」的權利 不惜抽絲剝繭、深入調查 只為讓投資人不錯過重要的投資訊息