admin新华社北京1月13日 热点问答|为什么“Groak”聊天机器人在多个国家受到调查？自去年底以来，这一事件愈演愈烈，多国政府已对此展开调查。随着大规模模型的快速发展，利用人工智能生成深度伪造内容并在线传播的案例频繁出现，凸显了人工智能技术的伦理风险。各国如何反应 Gronk 由马斯克的人工智能公司 xAI 开发，并集成到马斯克的 X 社交媒体平台中。最近，一些X平台用户使用Grok的图像编辑功能从真人中生成虚假的、露骨的色情内容，并在平台上传播。受害者中有成年妇女和未成年人。 Gronk事件涉嫌制作色情内容，遭到英国、法国、印度、巴西、澳大利亚等国家的强烈谴责。欧盟和一些国家的监管机构已介入调查。法国多位政府部长和议会议员于本月2日向法国司法部报告了这一事件。巴黎检察官办公室随后宣布将对格隆克制作色情内容的指控展开调查。印度信息技术部2日宣布，X平台必须删除色情内容、打击非法用户，并在72小时内提交“整改报告”，否则将面临法律制裁。欧盟委员会数字经济发言人托马斯·雷尼尔周一表示，正在认真调查有关 Gronk 的投诉，欧盟委员会正在要求 silver.form X 提供更多信息。印度尼西亚和马来西亚监管机构分别于 10 日和 11 日宣布，将暂时限制国内用户访问 Grok。印度尼西亚通讯部长梅蒂亚·哈菲兹在一份声明中表示，该措施对于保护公众免受人工智能生成的露骨图像造成的伤害是必要的，并呼吁X平台尽快解释“Grok”造成的负面影响。马来西亚通信和多媒体委员会表示，在相关公司建立有效的保护机制之前，对 Grok 的访问限制将继续存在。 Ofcom 周三宣布，已“在最严重的情况下”对 Platformto X 展开正式调查。成像问题 自 Grok Imagine 发布以来，Grok 成像问题就不断出现。 Grok Imagine 是一款于 2025 年 8 月发布的人工智能图像生成器，是“Grok”的一个功能模块，允许用户通过输入文字提示来创建照片和视频。它包括生成成人内容的所谓“热门模式”。随着马斯克将他的聊天机器人宣传为比聊天机器人“更前沿”的选择，问题变得更加严重。据美联社报道，竞争产品具有更多安全措施。另一方面，“Gronk”生成的图像是公开的，可以很容易地传播。日本人工智能与法证科学研究所最近发布的一份报告显示，研究人员收集并分析了 2025 年 12 月至 2026 年 1 月 1 日期间格洛克使用 Deepfakes 生成的 2 万张图像。发现在所有生成的包含人物的图像中，55% 的图像包含穿着暴露的人，而这些暴露的人中 81% 是女性。生成的图像中有 2% 是 18 岁以下的人，一些图像包括衣着暴露的年轻女性（或女孩）的图像。据多家媒体报道，截至上周末，在多方压力下，Grok 平台上的图像生成和编辑功能英国政府表示，纠正措施只会“将能够创建非法内容的 AI 能力转变”。“将图像变成优质服务”，是对受害者的“侮辱”。是什么让deepfakes如此难管控？这起事件并非巧合。近年来，随着大规模模型的快速发展，人工智能技术得到广泛应用。利用deepfake内容换脸、变声，生成deepfake内容并在互联网上传播的案例已经发生多起。虽然人工智能的伦理风险日益凸显，但许多国家对人工智能的监管仍然不完善。梁正副主任清华大学人工智能国际治理研究院院长接受新华社记者采访时表示，人工智能深度假货的治理包括评估模型算法的安全性、管理人工智能工具产生的有害内容、识别人工智能产生的内容，很难相信出台法律进行全面治理。但要建立“全链条”治理体系。在此类事件中，内容生成和分发平台主要负责检测和检查内容。同时，还必须通过教育等方式提高公众对人工智能的伦理素养，确保相关工具得到正确使用。许多国家正在积极推动相关法律法规的制定。 6日，波兰众议院议长沃齐米日·恰扎斯蒂表示希望利用Grok事件推动国家数字安全法案。相关规定旨在加强对未成年人的保护，方便执法部门清除有害内容。英国科学、创新和技术大臣利兹·肯德尔12日宣布，英国数据法相关规定将于本周生效。创建或尝试创建私有镜像未经同意的行为被视为刑事犯罪，在平台 X 上发布此类内容属于刑事犯罪。马来西亚通讯部副部长张念忠日前表示，全球人工智能竞争激烈，一味追求速度和利润而忽视道德标准和社会责任将带来可怕后果。 Grock 在短时间内生成大量不雅图像，速度比传统图像处理方法快得多，凸显了人工智能在没有道德限制的情况下可能被滥用的真实风险。
（编辑：胡峰）
吃瓜热门