日本政府要求马斯克旗下X平台加强AI图像管控，多国调查Grok生成色情内容

日本内阁官房已正式要求社交媒体平台X加强安全措施，并限制其人工智能助手Grok生成色情内容图像。日本经济安全保障担当大臣小野田纪美（Onoda Kimi）宣布了这一消息。官员们还提交了书面质询，要求X说明将采取哪些措施来防止深度伪造（deepfake）及其他侵犯隐私、知识产权或肖像权的内容。

本月，Grok在从马来西亚到意大利的多个国家引发公愤，原因是人们发现利用该工具将照片转化为色情内容或进行侮辱性篡改异常容易。作为回应，xAI公司已对图像生成功能实施了一些限制，并将其使用与付费订阅绑定。

小野田大臣表示，若情况未见改善，“包括法律手段在内的所有选项都将被考虑”。她同时兼任人工智能战略担当大臣，并称：“如果其他平台也出现类似问题，我们同样会采取行动。”

此番表态来自X最大的海外市场之一。与此同时，全球越来越多的监管机构正在启动调查。加拿大、加利福尼亚州、欧盟及其部分成员国（包括法国）正在调查Grok生成的图像是否侵犯相关人士权利。马来西亚、印度尼西亚和菲律宾则已限制对该服务的访问。本周，xAI宣布将禁止生成基于真实人物的色情化图像。

小野田指出，“人们仍然能够制作此类图像，这依然是个问题”，暗示日本可能要求采取进一步措施。但她同时补充，问题并非单纯在于人工智能技术本身，因此政府需要审视不同的应对方法。她比喻道：“如果那里放着一把刀，你是用它来烹饪，还是用来伤害他人？”

日本正试图在加强人工智能监管与追赶美国和中国在这一具有国家战略关键意义的领域之间取得平衡。已于九月全面生效的日本AI法律不包含制裁条款：政府干预仅限于进行调查，或在发生侵权行为时发布官方指导。

日本决策层已提出一些构想，例如教育用户，或要求AI服务对 manipulated images 进行标注。此外，内阁官房正与法务省、国家警察厅及总务省就可能的进一步措施进行磋商。