新華社倫敦1月6日電美國企業(yè)家埃隆·馬斯克旗下人工智能企業(yè)xAI的聊天機(jī)器人“格羅克（Grok）”，因新增圖像編輯功能被用戶用于生成涉及成年女性和未成年人的深度偽造色情內(nèi)容。英國等多個(gè)國家對(duì)此予以譴責(zé)。

“格羅克”由xAI公司開發(fā)，并內(nèi)置于馬斯克旗下社交媒體X平臺(tái)，X用戶可直接調(diào)用該聊天機(jī)器人。近期，X平臺(tái)出現(xiàn)部分用戶利用“格羅克”編輯圖片和視頻的現(xiàn)象，一些用戶借此生成真實(shí)人物的虛假性暴露內(nèi)容，并在X平臺(tái)上散播，受害者包括數(shù)百名成年女性和未成年人。

英國科學(xué)、創(chuàng)新和技術(shù)大臣莉茲·肯德爾6日在聲明中斥責(zé)此類內(nèi)容“絕對(duì)駭人聽聞”，英國通信管理局應(yīng)對(duì)此進(jìn)行額外審查。

英國通信管理局5日表示，已緊急聯(lián)系X平臺(tái)。該監(jiān)管機(jī)構(gòu)稱，注意到關(guān)于“格羅克”在X平臺(tái)上的一項(xiàng)功能引發(fā)嚴(yán)重關(guān)切，該功能可生成人們的裸露圖像以及涉及兒童的性意味圖像。

歐盟委員會(huì)發(fā)言人托馬斯·雷尼耶5日說，正嚴(yán)肅調(diào)查針對(duì)“格羅克”的相關(guān)投訴，歐盟委員會(huì)要求X平臺(tái)提供更多信息。

圖像生成問題實(shí)際上自Grok Imagine推出后就浮出水面。Grok Imagine是一個(gè)AI圖像生成器，允許用戶通過輸入文本提示來創(chuàng)建圖片和視頻。它包含一個(gè)所謂的“熱辣模式”，可生成成人內(nèi)容。上月底，隨著“格羅克”開始大量響應(yīng)用戶修改他人發(fā)布圖像的請(qǐng)求，問題迅速擴(kuò)大。

此外，法國、波蘭、印度、馬來西亞和巴西等國的官員及監(jiān)管機(jī)構(gòu)也紛紛對(duì)X平臺(tái)表示譴責(zé)，并呼吁展開調(diào)查。

據(jù)美聯(lián)社6日?qǐng)?bào)道，xAI公司對(duì)其置評(píng)請(qǐng)求作出自動(dòng)回復(fù)：“傳統(tǒng)媒體撒謊”。但X平臺(tái)并未否認(rèn)通過“格羅克”生成的有問題內(nèi)容的存在。X平臺(tái)在一篇帖子中聲稱會(huì)對(duì)非法內(nèi)容采取行動(dòng)，例如刪除內(nèi)容、永久封禁賬戶，并在必要時(shí)與當(dāng)?shù)卣蛨?zhí)法部門合作。