埃隆・马斯克旗下的 xAI 公司目前正面临美国方面的调查，调查工作由加州州检察长罗布・邦塔牵头。此前，该公司开发的人工智能聊天机器人兼图像生成工具 Grok，被曝可让用户大批量生成并发布基于真人照片的未经本人同意的露骨图像。
据互联网观察基金会的调查显示，在部分案例中，Grok 甚至能让用户生成虚拟脱衣效果的未成年人图像。
邦塔在周三发布的一份声明中指出：“xAI 公司似乎在为大规模生成未经同意的私密深度伪造图像提供便利，这些图像正被用于在互联网上骚扰女性和女孩，社交平台 X 也成为了传播渠道之一。”
这位检察长表示，其办公室正就 “利用 Grok 制作的未经同意的性露骨内容的泛滥问题” 对 xAI 展开调查。
在美国启动此次调查之前，印度、马来西亚、印度尼西亚、爱尔兰、英国、法国、澳大利亚等多个国家的政府机构已迅速采取行动，欧盟委员会也已对此事立案调查。
此前报道称，马来西亚和印度尼西亚已宣布暂停使用 xAI 旗下的 Grok 工具，直至相关问题得到解决。
在美国国内，三名民主党籍参议员已联名呼吁苹果和谷歌两家公司，要求其在应用商店下架社交平台 X 及 Grok 的应用程序，直至 xAI 能够采取有效措施，防止用户轻易生成未经同意的露骨图像以及涉及儿童性虐待的深度伪造图像。
“紫外线” 组织、美国全国妇女组织、“家长联合行动” 等多家维护妇女及儿童权益的倡导组织，也已呼吁应用商店下架 xAI 的相关应用。
苹果和谷歌两家公司均未对置评请求作出回应。
周二，美国参议院投票通过了《反深度伪造滥用法案》。根据该法案，被伪造为露骨深度伪造图像且未经本人同意的受害者，有权在民事法庭起诉制作或传播此类内容的公司。
该法案曾于 2024 年在参议院获得通过，但尚未提交至众议院审议表决。
周三，马斯克在社交平台 X 上发文称，尽管已有多个政府机构就未成年人裸体深度伪造图像问题对 xAI 进行质询，但他 “并不知晓任何由 Grok 生成的相关图像”。
马斯克转而将通过 Grok 和社交平台 X 产生、传播的潜在非法内容归咎于 “用户的相关请求”，并表示可能是 Grok 系统存在 “程序漏洞”。
此前，针对外界对 Grok 生成内容的担忧情绪不断升级，xAI 曾宣布将部分图像生成和编辑功能仅限付费订阅用户使用。
马斯克此前也曾在社交平台 X 上表示，利用 Grok 制作非法内容的用户，将面临与直接在社交平台 X 上传此类内容同等的后果。
xAI 近期完成了一轮规模达 200 亿美元的成长型融资，投资方包括英伟达、思科投资，以及长期支持马斯克旗下企业的英勇股权合伙公司、基石集团、富达投资、卡塔尔投资局、阿布扎比 MGX 集团和巴伦资本集团。
目前，xAI 的多个数据中心正在田纳西州孟菲斯市及其周边地区建设；这家由马斯克创立的人工智能及社交媒体企业，在内华达州注册成立，总部位于加利福尼亚州帕洛阿尔托市，与马斯克旗下电动汽车制造商特斯拉的工程办公地点相邻。
此外，特斯拉也已将 Grok 整合为旗下车辆信息娱乐系统的一项功能。
海量资讯、精准解读，尽在新浪财经APP
责任编辑：丁文武
启远网提示：文章来自网络，不代表本站观点。
