美国企业家马斯克名下的人工智能企业xAI开发的聊天『机器人』️“格罗克”允许用户生成“深度伪造”色情内容，英国政府对此表示关注，并呼吁英国通信管理局迅速采取行动。如果xAI拒绝遵守英国法律，其服务可能面临在英国被屏蔽的风险。
“格罗克”由马斯克旗下人工智能企业xAI公司开发，并内置于『社交媒体』平台X中。近期，一些用户利用该工具编辑图片和视频，生成并散播真实人物的虚假性暴露内容，受害者包括数百名成年女性♀️和未成年人。事件引发广泛谴责后，“格罗克”的图像生成和编辑功能已被更改为仅限付费用户使用。英国首相府认为这种改变是对受害者的侮辱，并强调这并不是解决问题的根本方法。
据报道，在英国通信管理局与X平台紧急联系后，“格罗克”的服务进行了调整。英国首相斯塔默批评此事令人不齿且令人作呕，要求该公司控制局面。实际上，自从Grok Imagine推出以来，图像生成问题就已浮现。Grok Imagine是一个AI图像生成器，允许用户通过文本提示创建图片和视频，其中包含一个所谓的“热辣模式”，可生成成人内容。上月底，随着“格罗克”开始大量响应用户修改他人发布图像的请求，问题迅速扩大。
此外，法国、波兰、印度、马来西亚和巴西等国的官员及监管机构也纷纷对X平台表示谴责，并呼吁展开调查。欧盟委员会发言人托马斯·雷尼耶表示，欧盟委员会已责令X平台保留与“格罗克”相关的全部内部文件和数据至2026年年底，以严肃对待这一问题。此前，欧盟委员会已经向X平台发出过资料保留的要求，主要涉及平台算法相关信息以及非法内容的传播与扩散情况。
xAI公司在面对置评请求时自动回复称“传统媒体撒谎”。但X平台并未否认通过“格罗克”生成的有问题内容的存在，并声称会对非法内容采取行动，例如删除内容、永久封禁账户，并在必要时与当地政府和执法部门合作。
