马斯克AI聊天机器人陷入性暴露内容风波，引发广泛关注。
特斯拉CEO埃隆·马斯克旗下的人工智能公司xAI近日引发广泛关注，一方面在1月6日刚刚完成了一轮200亿美元的E轮融资，另一方面其推出的聊天机器人Grok在功能更新后出现了越界行为，频繁出现“数字脱衣”现象，导致AI生成的女性及儿童的裸露图像在社交平台上广泛传播。
据新华社报道，近日，X平台上部分用户使用Grok工具对图片和视频进行编辑，有用户借此生成涉及真实人物的虚假性暴露内容，并在X平台上进行传播。受害人群包括数百名成年女性及未成年人。
去年夏天，Grok开始允许用户通过文字提示对图像进行编辑。随后，随着Grok频繁响应用户修改他人发布图像的请求，从去年年底开始，相关问题逐渐加剧。X平台上许多用户利用这一功能，对图像中的人物执行“脱去衣服”、“让她穿上比基尼”等不当指令。
社交媒体与深度伪造研究专家吉纳维芙·吴分析了X平台上Grok生成的内容，截至1月7日，该账号每小时生成约7750张带有性暗示或裸露的图片。图像AI篡改检测公司Copyleaks指出，在12月下旬，其在Grok公开可访问的图片流中检测到，平均每分钟出现一张未经同意的性暗示图片。 这些数据令人震惊，反映出当前AI生成内容在伦理和法律层面存在的严重问题。尽管技术发展迅速，但对用户隐私和内容安全的保护却显得滞后。平台方与监管机构亟需加强审核机制，防止此类内容被滥用，避免对个人权益造成侵害。同时，公众也应提高警惕，增强对AI生成内容的辨识能力。
尽管安全专家和科技评论人士批评X平台上充斥着剥削性图像和视频，马斯克却在新年第一天对此“开玩笑”，他在X平台上要求Grok生成一张自己身穿比基尼的照片，并对生成的图片评论“完美”。随着舆论风暴愈演愈烈，马斯克于3日发文表示：“任何利用Grok生成非法内容者将承受与直接上传非法内容相同的后果。” 这一事件再次引发公众对人工智能技术滥用问题的担忧。马斯克的言论不仅显得轻率，也暴露出科技领袖在面对伦理与法律边界时的模糊态度。AI生成内容的监管机制尚未完善，而像马斯克这样具有巨大影响力的科技人物，其言行无疑会进一步加剧社会对AI风险的恐慌。同时，他事后所作的回应虽看似强硬，但缺乏实质性的具体措施，难以真正遏制潜在的滥用行为。如何在推动技术发展的同时守住道德与法律底线，仍是当前亟需解决的问题。
欧盟委员会发言人托马斯·雷尼耶5日对X和Grok进行批评，称其生成的露骨及未经用户同意的图像内容“是非法的、令人震惊且令人反感的”，并强调“这类内容在欧洲不应有生存空间”。英国、印度、马来西亚等国的官员和监管机构已开始着手展开相关审查。
“在缺乏护栏或伦理规范的情况下，这项技术可能激发并助长了一些人非人性的冲动。”英国杜伦大学法学教授、图像型性暴力研究专家克莱尔·麦格林在接受《大西洋月刊》采访时表示，他对Grok生成的图像表示严重担忧。最近几周乃至现在的情形让人感到，我们似乎正站在悬崖边缘，以自由落体的方式坠入人性堕落的深渊。
“热辣模式”的出现
两年多前，马斯克宣布xAI推出其首款人工智能模型Grok，该模型能够实时接入社交媒体平台X。他在介绍时表示，这款人工智能模型“具备智慧，还带有一丝叛逆”，因此建议使用者最好不排斥幽默感。
去年8月，xAI近日向付费用户推出了一款新的AI工具——GrokImagine，该工具能够根据文字提示或用户上传的图片进行编辑和生成AI图像，并进一步将其转化为短视频内容。这款工具提供了四种预设模式：自定义、普通、趣味以及“热辣”（spicy），其中“热辣”模式可以生成成人内容。 这一功能的推出，体现了AI在内容创作领域的不断拓展与创新，但也引发了关于内容安全与适用范围的讨论。尤其是在“热辣”模式下，如何确保生成内容符合各地区的法律法规和平台政策，成为亟需关注的问题。对于用户而言，选择使用此类工具时也需充分了解其潜在风险和使用边界。
当谷歌的Veo、OpenAI的Sora等其他视频生成器都设置了防护措施，防止用户生成 NSFW内容（Not Safe For Work：多指裸露、暴力、色情或冒犯等不适宜公众场合的内容），以及名人深度伪造时，Grok Imagine 却可以同时做到这两点，而且毫不避讳。
热辣模式推出后，已有用户利用该功能生成了美国女歌手泰勒·斯威夫特的无码裸露上身视频，引发广泛争议。美国科技媒体TheVerge将其描述为“一项专门用于制作性暗示视频的服务”。这一事件再次反映出AI技术在内容生成方面的潜在风险，尤其是在缺乏有效监管的情况下，容易被滥用，对个人隐私和形象造成严重侵害。技术的发展固然重要，但如何在创新与伦理之间找到平衡，仍是亟需解决的问题。
几乎在同一时间，Grok推出了“伴侣”功能，让用户能够与AI生成的虚拟角色进行深入互动。首批推出的Grok虚拟伴侣之一“Ani”穿着黑色蕾丝连衣裙，会隔着屏幕向用户送上飞吻。马斯克在X平台上推广这一功能时写道：“Ani会让你的缓冲区溢出Grok。”
据美媒报道，xAI对Grok的系统提示进行了重大更新，禁止它“创建或传播儿童性虐待材料”（CSAM），但同时也明确表示，“对于包含黑暗或暴力主题的虚构成人内容没有限制”，并且“青少年或女孩并不一定意味着未成年”。其暗示是，对于用户提出的色情内容请求， Grok应采取较为宽松的态度。
彭博社7日援引研究人员的话称，Grok用户每小时最多可生成6700张“去衣化”图片。去年12月开始，要求Grok给不同人穿上比基尼或其他具有性暗示的服装的请求激增。
麦格林指出，如果对色情内容的性质完全放任不管，任由其被创造和传播，这可能会正常化并淡化性暴力。她指出，在许多国家，针对真实人物的露骨AI图像和视频本身已属违法。这种现象不仅挑战了社会道德底线，也对个人隐私和尊严构成了严重威胁。在技术不断发展的当下，如何平衡言论自由与社会伦理，成为亟需正视的问题。
在公开场合，马斯克长期对“觉醒主义”人工智能模型持批评态度，并反对任何形式的审查制度。据CNN报道，知情人士透露，马斯克在xAI内部曾多次阻挠为Grok设置防护机制，其安全团队的规模本就小于主要竞争对手。X平台及xAI内部人士表示，安全团队对Grok生成的公开内容几乎没有监管权限。 从目前的情况来看，这种对安全机制的忽视可能带来潜在风险，尤其是在AI技术日益深入社会各个层面的背景下。尽管马斯克强调技术创新和自由表达的重要性，但过度追求技术突破而忽视安全与责任，可能会引发更多争议和问题。如何在创新与规范之间找到平衡，仍是当前AI发展面临的重要课题。
AI生成儿童色情图像被推向主流
1月1日，有X平台用户投诉称：“推出展示比基尼人群的功能未能有效防止其被儿童接触到，这种行为极其不负责任。”对此，xAI方面回应称：“嘿！感谢提醒。团队正在研究进一步加强防护措施。”在用户进一步追问后，Grok承认曾生成部分未成年人处于性暗示情境的图像，表示已发现安全防护存在漏洞，并正在紧急修复。 从此次事件来看，AI技术在内容生成与审核方面的风险不容忽视。尽管企业声称正在积极改进，但用户对AI系统可能带来的潜在危害仍存较大担忧。尤其在涉及未成年人的保护问题上，任何疏漏都可能造成不可挽回的影响。这不仅考验企业的技术能力，更关乎其社会责任感。如何在创新与安全之间找到平衡，是所有科技公司必须正视的问题。
英国非营利组织互联网观察基金会致力于减少针对儿童的在线性虐待内容，该组织热线负责人奈尔·亚历山大对《华尔街日报》透露，分析师在暗网论坛发现未成年人性化图像，制作者声称使用Grok生成这些内容。这些图像描绘了11至13岁左右的性化裸露少女，符合英国对儿童性虐待犯罪材料的认定标准。
“Grok这类工具正将AI生成的儿童色情图像推向主流，其危害正呈涟漪式扩散。”亚历山大说道。
曾与马斯克育有一子的保守派网红阿什莉·圣克莱尔在接受美媒采访时表示，X平台用户正利用Grok技术对她的照片进行裸体处理，其中包括她14岁时的照片。她在X平台发文呼吁其他用户若遭遇类似情况及时告知，此后她收到大量绝望父母发来的求助信息，要求删除被性化的儿童照片。
去年，致力于开发儿童安全检测工具的非营利组织Thorn宣布，因X停止付款而终止合同。当年4月，包括OpenAI、谷歌和Anthropic在内的几家顶尖AI公司加入了由Thorn牵头的一项倡议，旨在防止人工智能被用于虐待儿童，xAI并未参与其中。 此次事件反映出在技术伦理与企业责任之间，仍存在明显的分歧与行动差异。尽管许多科技巨头愿意在反儿童虐待问题上发声并采取行动，但并非所有企业都愿意承担相应的责任与成本。这不仅影响了相关倡议的广泛性和有效性，也对保护儿童免受数字危害的努力带来挑战。AI技术的发展必须伴随更严格的道德约束和实际行动，才能真正服务于社会公共利益。
去年11月，科技媒体The Information报道称，X平台裁撤了半数负责信任安全事务的工程团队。该媒体同时披露，X员工特别担忧Grok的图像生成工具“可能导致非法或有害图像扩散”。
“完全可以建立防护机制，通过图像扫描来判断是否包含儿童，从而让AI更加谨慎地运行。但这种防护机制也伴随着一定的代价。”OpenAI前人工智能安全研究员史蒂文·阿德勒对CNN表示，这些代价包括响应速度变慢、计算成本增加，有时甚至会导致模型拒绝处理本无问题的请求。
美国国家失踪与受虐儿童中心（NCMEC）执行主任劳伦·科弗伦近日向国会作证表示，2025年NCMEC共收到440419起与生成式AI相关的举报，较去年同期增长超过六倍。犯罪分子利用AI技术将儿童的普通照片篡改为色情图像，生成新的儿童性虐待材料（CSAM），甚至通过AI生成诱导儿童的指导内容。
冰山一角
AI技术自2017年起就被用于生成未经同意的色情内容，当时北美媒体VICE首次报道了“深度伪造”（deepfake）技术。《大西洋月刊》指出，Grok的出现让这类内容的制作变得更加便捷，而其与主流社交平台X的整合，更使其能够将未经同意的性化图像迅速传播，形成病毒式扩散。 我认为，随着AI技术的不断进步，其被滥用的风险也在上升。深度伪造技术的普及不仅挑战了个人隐私的边界，也对社会伦理和法律体系提出了新的考验。平台方在推动技术创新的同时，必须承担起相应的责任，防止技术被恶意利用，保护用户免受侵害。
1月初，印度电子和信息技术部要求X公司对其旗下的Grok进行一次全面的技术、流程及治理层面的审查，并规定该公司须在1月5日前完成相关整改。马来西亚通信与多媒体委员会（MCMC）于3日发表声明称，正在对X公司展开调查，并计划传唤其代表。
8日，欧盟要求X公司保留所有与Grok相关的内部文件和数据，直至2026年底，这一规定是对此前数据保留要求的延续，目的是确保监管机构能够获取与《数字服务法》（DSA）合规性相关的信息。
在美国，全国性剥削中心（NCOSE）在近日接受CNBC采访时表示，已呼吁司法部和联邦贸易委员会对相关问题展开调查。NCOSE首席法律官兼法律中心主任丹妮·平特指出，“针对这些具体问题，并没有太多相关的法律先例。”这一表态反映出当前在应对新型网络剥削行为时，法律体系仍面临诸多挑战，亟需更明确的法规和执法指导。 从当前情况看，随着技术手段的不断演变，类似问题的复杂性和隐蔽性也在增加，传统法律框架难以完全覆盖。因此，加强跨部门协作、推动立法完善，成为当务之急。同时，公众对这类问题的关注度提升，也促使监管机构需要更加主动地介入，以保护用户权益并维护市场秩序。
去年，美国总统特朗普签署了一项名为“TAKEITDOWN”的法案，将明知是未经同意而发布或托管的露骨图像的行为界定为联邦犯罪。然而，有专家指出，该法律的局限性在于：只有在受害者主动举报后，平台才被要求启动删除程序。
X公司在3日通过其官方账号XSafety首次发布声明称：“我们将对X平台上的非法内容采取行动，包括删除儿童性虐待材料（CSAM），并对相关账户进行永久封禁，必要时将与地方政府及执法部门协作。” 这一表态表明，X公司正在加强对其平台上非法内容的监管力度，尤其是针对涉及未成年人的有害信息。尽管声明内容较为简短，但已明确表达了平台在维护网络环境安全方面的立场。随着社会对网络犯罪打击力度的不断加大，企业责任的履行也愈发重要。此类措施不仅有助于保护用户权益，也有助于提升平台的社会形象和公信力。
目前为止，这场争议并未对X的流量产生任何负面影响。根据追踪移动应用趋势的Apptopia数据显示，1月2日至5日，Grok的每日下载量增长了54%，而X的每日下载量则增长了25%。
美国科技媒体《连线》7日报道称，Grok和X是一个价值数百万美元的“去衣”产业的冰山一角。过去几年里，出现了数十个独立应用和网站，声称可以在未经同意的情况下对女性进行“数字脱衣”，它们往往将自己包装成无害的新奇工具，却在实际上助长了基于图像的性暴力。诉讼和立法都需要时间，尤其是在技术以极快速度进入市场的当下，法律很难跟上这种节奏。
根据移动应用数据分析公司Apptopia的数据显示，自1月2日以来的一周内，Grok的每日下载量增长了54%。
