“热门模式”失控：马斯克的人工智能聊天机器人引发露骨性内容争议

特斯拉CEO埃隆·马斯克旗下的人工智能公司xAI最近走到了风口浪尖。该公司刚刚于 1 月 6 日完成了 200 亿美元的 E 轮融资，但与此同时，其 Grok 聊天机器人的更新跨越了红线，导致频繁的“数字裸体”操作，导致人工智能生成的妇女和儿童的露骨图像在社交平台上传播。据新华社报道，一些X平台用户最近开始使用Grok编辑照片和视频。一些用户利用这一点生成有关真人的虚假、露骨的色情内容，并在 X 平台上传播。受害者中有数百名女性和未成年人。去年夏天，Grok 开始允许用户通过短信编辑图像。去年年底，当 Grok 响应许多用户修改其他人发布的图像的请求时，混乱加剧了。许多X平台用户会利用这个新功能来执行诸如“脱掉衣服”或“穿上比基尼”之类的命令社交媒体和 Deepfake 研究员 Genevieve Wu 分析了 Grok 平台上的内容 AI 图像处理检测公司 CopyLeaks 在 12 月底宣布，它在 Grok 的公开图像流中平均每分钟检测到一张未经同意的性暗示图像。虽然安全专家和技术评论员谴责 X 上剥削性图像和视频的传播，但马斯克在元旦就这个问题“开玩笑”，要求 Grok 生成一张随着公众风暴愈演愈烈，马斯克3日发布消息称：“那些使用Grok生成非法内容的人将遭受与直接上传非法内容相同的后果。”欧盟委员会发言人托马斯·雷尼尔周一表示，出口露骨的、未经同意的图像是“非法的，令人震惊的”，“这种事情在欧洲没有立足之地”。援助，批评 X 和 Grok。英国、印度、马来西亚等国家的当局和监管机构已启动审查。英国达勒姆大学法学教授、性暴力图片专家克莱尔·麦格林 (Claire McGlynn) 对《大西洋月刊》表示，“在没有安全屏障或道德准则的情况下，这项技术会鼓励和助长一些人的非人性冲动。”她对 Grok 制作的图像深感担忧。过去的几周和目前的局势，就像我们从悬崖边缘掉下来，自由地掉进人类堕落的深渊一样。推出“Hot模式” 两年多前，马斯克宣布xAI推出Grok，这是第一个可以实时连接X社交媒体平台的人工智能模型。他在序言中指出，用户不应该对幽默感到疑虑，因为人工智能模型“聪明但有点叛逆”。去年八月，xAI 推出了 Grok Imagine AI 工具对于付费用户。该工具可以根据短信或上传的图片编辑生成AI图像，并将其转换为短视频内容。该工具提供四种预设模式：自定义、正常、狂热和“辣”。最后一种模式产生成人内容。虽然其他视频生成器，例如 Google 的 Veo 和 OpenAI 的 Sora，都设有保护措施来防止用户制作 NSFW（工作不安全，主要指裸体、暴力、色情或其他不适合公共场所的攻击性内容）内容或名人深度假货，但 Grok Imagine 可以毫不犹豫地同时做到这两点。 Hot Mode发布后，一些用户用它生成了美国歌手泰勒·斯威夫特（Taylor Swift）未经审查的裸照视频，引起了轰动。美国科技媒体 The Verge 将其描述为“专门用于制作性暗示视频的服务”。大约在同一时间，Grok 推出了一项“附加”功能，允许用户与人工智能生成的虚拟角色进行深度交互。第一组其中一位虚拟好伙伴“阿尼”，身穿黑色蕾丝连衣裙，在屏幕上飞吻。 “Ani 将溢出 Grok 的缓冲区，”马斯克在帖子中写道。这意味着 Grok 应该对用户对色情内容的请求采取更加宽容的态度。彭博社7日报道称，研究人员称Grok用户每小时最多可以生成6700张“裸体”图像。 12 月，要求 Grok 为人们穿上比基尼和其他性感服装的请求猛增。麦格林指出，如果完全忽视色情内容的本质并允许其创作和传播，性暴力就会变得正常化和琐碎化。他说，露骨的人工智能图像和真人视频在许多国家已经是非法的。马斯克长期以来一直公开反对人工智能和审查制度的“觉醒”模式。据 CNN 报道，知情人士称，马斯克曾多次拒绝在 xAI 和该公司的安全团队比竞争对手要小。 1 月 1 日，Platform xAI 回应：“嘿！感谢您提醒我们。团队正在考虑进一步改进我们的保障措施。”当用户询问时，格罗克承认制作了一些未成年人在性暗示情况下的图像。发现安全漏洞并紧急修复。英国非营利组织互联网观察基金会正在努力减少网上儿童性虐待内容。该组织热线负责人尼尔·亚历山大 (Neil Alexander) 告诉《华尔街日报》，分析师在暗网论坛上发现了未成年人的性图片，并声称创作者使用 Grok 生成这些内容。这些图像显示 11 至 13 岁之间的裸体女孩被性物化。符合性虐待儿童罪的标准。 “像 Grok 这样的工具正在将人工智能生成的儿童色情内容推向主流，而且损害正在一波又一波地蔓延，”亚历山大说。阿什利·圣克莱尔（Ashley St. Clair），保守派国际政治家曾与马斯克生下孩子的rnet名人在接受美国媒体采访时表示，X平台的用户曾使用Grok的技术拍摄她的裸照，甚至在她14岁的时候。他在X平台上发布消息，要求其他用户立即报告遇到的类似情况。从那时起，她收到了大量来自绝望父母的信息，请求帮助删除孩子的性照片。去年，开发儿童安全测试工具的非营利组织 Thorn 宣布，在 X 离开付款后终止合同。同年 4 月，包括 OpenAI、谷歌和 Anthropic 在内的几家主要人工智能公司加入了索恩领导的一项行动，以防止人工智能被用于虐待儿童。 xAI 没有参与其中。去年 11 月，科技媒体 The Information 报道称，Platform X 解雇了一半负责信任安全问题的工程团队。该媒体还透露，X 员工特别担心d Grok 的成像工具“可能导致非法或有害图像的传播”。 “完全有可能建立保护机制，扫描图像来确定是否有儿童存在，并使人工智能行动更加谨慎。但保护机制是有代价的。” OpenAI 前 AI 安全研究员 Steven Adler 告诉 CNN，这些成本包括响应时间变慢、计算复杂度增加，甚至模型拒绝顺利处理请求。国家失踪和受虐儿童中心 (NCMEC) 执行主任 Lauren Coughlan 最近在国会作证称，NCMEC 到 2025 年收到了 440,419 份与生成人工智能相关的报告，比去年增加了六倍多。施虐者利用人工智能将常见的儿童照片修改为色情图片，并制作新的儿童性虐待（CSA）材料，甚至提供引诱儿童的指导。冰山一角 AI 已被用来生成非共识性数据至少从 2017 年开始，北美媒体 VICE 首次报道了“deepfake”技术。据《大西洋月刊》报道，Grok 促进了此类内容的创建及其与主平台的集成。masocial X 现在可以将未经同意的性图像变成病毒现象。 1月初，印度电子和信息技术部命令X对Grok进行“全面的技术、程序和治理审查”，并要求该公司在1月5日之前完成整改。马来西亚通信和多媒体委员会（MCMC）3日发表声明，称正在调查X，并计划传唤他。公司代表。 8日，欧盟要求美国国家性剥削中心（NCOSE）在接受CNBC采访时要求司法部和联邦贸易委员会调查此事。 Danny Pinter，NCOSE 法律顾问其法律中心主任兼主任表示，“与这些具体问题相关的判例法并不多”。去年，特朗普总统签署了“Take It Down”法案，该法案将未经同意故意发布或托管露骨图像定为联邦犯罪。然而，一些专家指出，该法律的一个限制是，平台只能在受害者挺身而出的情况下才开始删除过程。 3日，美国科技媒体Wired报道称，Grok和X只是价值数百万美元的“衣物处置”冰山一角。近年来，该行业表示，它在未经女性同意的情况下“以数字方式剥夺了”女性的权利。虽然出现了许多独立的应用程序和网站，并且通常被包装为无害的新奇工具，但自 1 月 2 日以来，Grok 的每日下载量实际上在一周内增长了 54%，尤其是在技术以如此快的速度进入市场的情况下。
特别提示：以上内容（包括图片和视频，如有）均为上传并由自有媒体平台“网易号”用户发布。本平台仅提供信息存储服务。
注：以上内容（包括图片和视频，如有）由仅提供信息存储服务的社交媒体平台网易号用户上传发布。