埃隆·馬斯克旗下社交平臺(tái)X于1月14日發(fā)表聲明稱，將對(duì)其人工智能聊天機(jī)器人Grok采取限制措施，禁止該功能生成真人裸露圖像。此前Grok因平臺(tái)監(jiān)管缺失，被廣泛濫用于生成網(wǎng)絡(luò)色情圖片，甚至涉及兒童色情領(lǐng)域，遭到多個(gè)國(guó)家的批評(píng)與抵制。

X平臺(tái)安全團(tuán)隊(duì)在聲明中表示：“我們已實(shí)施技術(shù)措施，防止Grok賬號(hào)允許編輯真人穿著比基尼等暴露服裝的圖像。此項(xiàng)限制適用于所有用戶，包括付費(fèi)訂閱者。”

此外，X平臺(tái)安全團(tuán)隊(duì)還稱，其正在全天候工作以增設(shè)防護(hù)措施，移除違規(guī)及非法內(nèi)容，在必要時(shí)將永久封禁賬戶并與當(dāng)?shù)卣皥?zhí)法部門開展協(xié)作。

馬斯克14日早些時(shí)候曾表示，其未發(fā)現(xiàn)Grok生成過任何“裸露的未成年圖像”。他在X平臺(tái)發(fā)文中稱："我確實(shí)未發(fā)現(xiàn)Grok生成過任何未成年人裸體圖像，完全為零。"

Grok由xAI公司開發(fā)，并內(nèi)置于X平臺(tái)，X用戶可直接調(diào)用該聊天機(jī)器人。目前，Grok因相關(guān)爭(zhēng)議在全球范圍內(nèi)面臨監(jiān)管與輿論雙重壓力。

歐盟委員會(huì)負(fù)責(zé)數(shù)字經(jīng)濟(jì)事務(wù)的發(fā)言人托馬斯·雷尼耶1月5日回應(yīng)說，正“嚴(yán)肅調(diào)查”針對(duì)Grok的相關(guān)投訴。“Grok推出所謂‘熱辣模式’，不僅展示露骨性內(nèi)容，部分生成內(nèi)容還帶有兒童特征。這根本不是‘熱辣內(nèi)容’，而是違法行為，令人震驚。這種事在歐洲沒有立足之地?！?/span>

英國(guó)信息專員辦公室（ICO）1月7日發(fā)布聲明稱，注意到有報(bào)道對(duì)Grok制作的內(nèi)容提出嚴(yán)重關(guān)切，“我們已聯(lián)系X和xAI，以了解他們?yōu)樽袷赜?guó)數(shù)據(jù)保護(hù)法和保護(hù)個(gè)人權(quán)利而采取的措施。在審閱他們的回復(fù)后，我們將盡快評(píng)估是否需要采取進(jìn)一步行動(dòng)”。

印度尼西亞通信和數(shù)字事務(wù)部長(zhǎng)當(dāng)?shù)貢r(shí)間1月10日表示，由于擔(dān)心人工智能會(huì)生成色情內(nèi)容，該國(guó)暫時(shí)封禁Grok，成為第一個(gè)拒絕訪問該人工智能工具的國(guó)家。

馬來西亞通訊與多媒體委員會(huì)（MCMC）1月11日發(fā)布聲明稱，當(dāng)日起暫時(shí)限制訪問馬斯克旗下人工智能企業(yè)xAI的聊天機(jī)器人Grok，原因是Grok被濫用，用于生成色情、不雅和未經(jīng)同意的篡改圖像。

MCMC表示，已向X平臺(tái)和xAI發(fā)出通知，要求其阻止可能違反馬來西亞法律的AI生成內(nèi)容，但兩家公司的回應(yīng)未能解決該工具的固有風(fēng)險(xiǎn)，“在實(shí)施有效的安全措施之前，對(duì)Grok的訪問將繼續(xù)受到限制”。

在美國(guó)本土，Grok也面臨監(jiān)管壓力。當(dāng)?shù)貢r(shí)間1月14日，美國(guó)加利福尼亞州一名官員表示，鑒于Grok出現(xiàn)并傳播未經(jīng)同意的違規(guī)圖片并引發(fā)全球關(guān)注，他們要求該公司作出回應(yīng)。加州總檢察長(zhǎng)羅布·邦塔在社交媒體平臺(tái)發(fā)文稱：“我們要求xAI立即就其如何計(jì)劃阻止此類內(nèi)容生成和傳播給出明確答復(fù)。”