全球首富马斯克麾下的人工智能初创公司近几天惹出新一轮祸事：聊天机器人「格罗克 (Grok)」 正因涉嫌生成非法色情内容遭遇全球调查。
据新华网介绍，近日，X 平台出现部分用户利用 「格罗克」 编辑图片和视频的现象，部分生成的内容可以假乱真。一些用户借此生成真实人物的虚假性暴露内容，并在 X 平台上散播。受害者包括数百名女性和未成年人。
法国巴黎检方上周五确认，将扩大对 X 平台的既有调查，并纳入新的指控：生成和传播儿童色情制品。
当地时间周一，欧盟委员会发言人托马斯·雷尼耶在新闻发布会上表示，欧委会正在 「非常认真地调查此事」。
雷尼耶表示：「欧盟委员会非常清楚地意识到，X 或 『格罗克』 目前正在提供一种所谓的 『辣味模式』（Spicy Mode），其中展示了露骨的性内容，而且部分输出还生成了带有儿童特征的图像。」
他也进一步炮轰称：「这不是 『辣味』，这是违法的。这是令人震惊、令人作呕的。这就是我们的看法，这样的内容在欧洲没有任何立足之地。」
最新捅出的篓子，意味着 X 很有可能会面临新一轮重罚。上个月，欧盟委员会以违反 《数字服务法》 为由，对 X 处以 1.2 亿欧元的罚款。处罚涵盖多项违规：其广告资料库在透明度和可访问性方面均不合规，未按规定向符合条件的研究人员开放平台公共数据访问权限，以及将用来验证用户身份的 「蓝标」 改成付费即可获取。
对于最新事态，X 和马斯克的应对策略是强调 「犯错的是使用工具的人，而不是工具本身」。
X 表示，平台会对非法内容采取行动，包括删除资料、封号，并在必要时与执法机构展开合作。马斯克也在周末的一条帖子中强调，任何使用 「格罗克」 制作非法内容的人，将面临与上传非法内容同样的法律后果。
但毫无疑问，AI 图像生成工具未能对违法、犯罪行为实施有效拦截，本身就是重大失误。在美国、英国、欧盟等国家和地区，未经同意发布 AI 生成的深度伪造私密影像是违法的，AI 服务供应商也需要在 AI 工具的安全系统中划定并嵌入法律的界限。
这一漏洞势将面临全球监管的仔细审视。
英国社交媒体监管机构通讯管理局 （Ofcom）周一表示，已注意到有关 「格罗克」 功能的 「严重关切」，并已与 X 和 xAI 进行 「紧急沟通」，以了解它们为履行在英国保护用户的法定义务已经采取了哪些措施。
与此同时，印度信息技术部要求对 「格罗克」 的安全防护功能进行全面审查；马来西亚当局则表示，在收到有关 「格罗克」 输出内容 「下流」 的投诉后，已就此展开调查。
（财联社）
文章转载自 东方财富
