【希望之声2026年1月19日】（希望之声记者陈雯韵综合编译） 1月16日，加州最高执法官员下令埃隆·马斯克的人工智能公司xAI停止制作和传播未经授权的色情数字图像，并警告称这可能违反法律。
司法部长罗伯·邦塔向该公司发出正式的停止侵权通知，理由是该公司的 Grok 聊天机器人未经同意创建暗示性或露骨图像的投诉激增。该指令强调了展现女性和未成年人处于尴尬境地的内容，邦塔的团队认为这些内容可能违法。
邦塔在一份声明中表示：“大量报道详细描述了这些材料——有时甚至描绘了妇女和儿童从事性活动的画面——令人震惊，而且正如我的办公室所认定的那样，这些材料可能违法。”
邦塔办公室表示，儿童进行性行为的逼真图像似乎正在大规模出现。邦塔办公室援引一项分析称，xAI 在圣诞节和新年期间生成的 10000 多张图像显示，一些人衣着暴露，其中一些人似乎是儿童。
总检察长强调，制作类似儿童剥削的视觉内容属于重罪。他表示，他的团队预计xAI会迅速遵守规定。“今天，我已向xAI发出停止侵权通知函，要求该公司立即停止制作和传播深度伪造、未经同意的私密照片以及儿童性虐待材料，”他说道。“制作此类材料是违法的。我完全相信xAI会立即遵守规定。加州对儿童性虐待材料采取零容忍态度。”
针对全球监管机构对未经授权的露骨性数字图像的担忧，xAI 于 1 月 14 日晚间表示，已对其 Grok AI 聊天机器人的所有用户实施限制，以限制图像编辑。现在，只有付费用户才能通过 Grok 账户创建和编辑图像。X 将付费墙描述为一项额外的安全保障措施，可以提供“额外的保护层”。
该公司在 X帖子中表示，“我们已采取技术措施，防止 Grok 帐户允许编辑穿着比基尼等暴露服装的真实人物图像”，“这项限制适用于所有用户，包括付费用户。”
邦塔对这些措施的有效性提出了质疑，指出这些措施对整体内容生成的影响尚不明确。
这款工具最初是作为社交网络 X（前身为 Twitter）的一部分推出的，它允许用户将真实照片修改成暴露或有伤风化的形式。尽管 xAI 已经限制了 Grok 公开发布高度逼真的修改图像的能力，但测试表明它仍然能够根据用户的个性化需求生成此类图像。
邦塔的办公室表示，xAI 开发了 Grok 的图像生成模型，其中包括该公司所谓的“刺激模式”，该模式可以生成露骨的内容。该办公室指出，加州最近出台了一项针对捏造私密视频的法律。该法律禁止制作或传播此类材料。
就在邦塔宣布对 Grok 公司在传播未经授权的露骨图片方面所扮演的角色展开调查不到一周后，就发出了这封停止侵权通知函。据司法部长办公室的声明称，已有大量报告显示，用户使用 Grok 将人们穿着日常服装的照片转换成带有暗示性的场景，而这些人往往对此毫不知情。
这场争议的影响范围已超出加利福尼亚州。日本、英国、加拿大、马来西亚和印度尼西亚的有关部门也已针对xAI和X公司启动审查或威胁采取法律行动，原因与上述问题类似。
例如，日本监管机构最近指出，Grok 制作了包含疑似儿童的性露骨人工智能图像。
专家警告说，人工智能驱动的虚假信息会带来日益严重的风险，从人身骚扰到更广泛的社会危害，例如敲诈勒索或散布虚假信息。
中共统治人民的最重要手段就是欺骗。维持大面积的对华广播不断传递真相，就是持续地给中国注入希望。希望之声诚邀您和我们一起携手努力。欢迎点击了解详情。
本文章或节目经希望之声编辑制作，转载请注明希望之声并包含原文标题及链接：918925