AIPress.com.cn报道

2月13日，一项新的集体诉讼在美国法院提起，指控马斯克旗下xAI开发的AI聊天机器人Grok通过生成非自愿的深度伪造图像，对女性和未成年女孩实施性剥削。

化名Jane Doe的原告在诉状中称，Grok的图片生成功能被用于制作将真实女性和女孩脱衣并摆放在色情姿势中的深度伪造图像，这些图片随后被公开发布在X平台上。

原告表示，这些非自愿制作的色情伪造图像永远无法从互联网上彻底清除，已经对被描绘的女性造成了严重伤害，并使她们面临持续的二次伤害风险。

诉状写道，AI让操纵真实人物的图片和视频变得极其简单，只需输入一段提示词然后点击按钮，就能逼真地制造出完全虚假的场景。

原告提出的核心指控之一是：xAI在明知Grok的图片生成功能被用于制作非自愿色情伪造图像的情况下，仍未采取有效的安全防护措施来阻止这种行为。

诉状指出，被告知道或应当知道Grok的图像生成功能正在被用于制作此类深度伪造内容。

原告希望代表一个全国性的集体以及一个南卡罗来纳州的次级集体提起诉讼，涵盖所有在诉讼时效内被Grok未经同意地制作成色情或裸露深度伪造图像的个人。

原告指控xAI存在严格责任、疏忽、公共妨害、诽谤和故意造成精神痛苦等多项违法行为，同时违反了加州不正当竞争法和该州的法定公开权。

原告要求陪审团审判，并请求法院做出宣告和禁令救济，同时要求xAI向原告及全体集体成员支付补偿性、推定性、法定和惩罚性赔偿。具体赔偿金额未在诉状中明确。

这并非AI行业近期面临的唯一法律挑战。谷歌目前也面临诉讼指控，原告称谷歌在未经用户知情或同意的情况下，秘密为所有用户的Gmail、Chat和Meet账户启用了Gemini AI功能，使AI能够追踪用户的私人通信内容。

（AI普瑞斯编译）