一年前，X 还深陷泰勒·斯威夫特的深度伪造（Deepfake）不雅照风波中。
一年后，它的老板马斯克，亲自为用户送来了生产这些「不雅照」的工具，并大肆宣传。
xAI 的新功能 Grok Imagine，提供了一个名为「Spicy」的火辣模式，被媒体证实可以一键生成名人的部分裸露视频。
这种看起来就像是自讨苦吃的行为，实在让人难以理解为什么马斯克要这么做。
唯一能解释的，或许就是在这场 AI 大战中，技术和创意没能让 Grok 取胜，马斯克索性就继续用我们的欲望赢得更多的流量。
使用 Grok Imagine 生成的 Taylor Swift 照片，图片来自 The Verge
最近，The Verge 的一位记者，在测试 xAI 这项最新的图像视频生成功能 Grok Imagine（Grok 想象） 时，表示自己经历了一次相当震撼的「教育」。
她输入「泰勒·斯威夫特在科切拉音乐节和朋友们庆祝」的提示词，Grok Imagine 生成上面的图片；之后，她选择了一张图，点击Spicy 模式，将生成的图片转换为视频。
很快的时间，视频就出来了，泰勒·斯威夫特开始扯掉了自己的上衣，在人群里开始跳舞。
视频来源：The Verge
你可能会觉得这是不是一次类似「提示词越界」的误操作，但事实是，这就是 Grok Imagine 默认提供的产品功能。Grok Imagine 内置了一个鼓励性感演绎的预设模式 Spicy Mode。
那名记者还强调「我从没明确要求 AI 脱衣，它就自己把衣服脱了！」。
与 Google Veo、OpenAI Sora 这些主流 AI 视频生成工具相比，它们花了非常大的力气，在多重机制上封锁了名人伪造和色情演绎，Grok Imagine 则在产品设定上就放开了这些机制。
Sora 没有办法生成 Taylor Swift 的照片，称违反了使用政策
在 Grok 提供服务的地区，只要你有一部手机、支付了 $30 订阅费，你就可以在没有任何监管的情况下，生成各种名人色情深度伪造的视频。
不过，最新的消息，马斯克在 X 宣布向在美国的全部用户，免费开放 Grok Imagine 的功能后，我们发现他还增加了更强的审核机制。
流量至上就是马斯克的 Spicy 模式
目前在 AI 领域的营销，完全可以用「疯狂」二字形容。OpenAI 首当其冲，GPT-5 在最终定下发布时间之前，每天都放点料来获得大家的关注；而 Anthropic、Google 又都在最近发布新的模型。
Grok 想要在 AI 战场的竞争中杀出一条血路，就必须做点别人不敢做的事。于是，「Spicy Mode」现在成为了它最好的流量突破口。
Grok Imagine 是 xAI 推出的全新多模态功能，能够根据文本或图片生成图像和最长 15 秒的带音频视频。它目前仅向每月花费 30 美元的 SuperGrok 和 Premium+ 付费订阅用户开放，提供了 iOS 和 Android 应用版本。
Grok Imagine 界面，首页左滑就能从对话询问切换过来，入口明显。
跟其他 AI 对 NSFW（Not Safe for Work）内容避之而不及的态度相反，Grok Imagine 不仅允许，甚至这个「Spicy」模式，就是专门用来生成带有性暗示或部分裸露的内容。
不过，这不是马斯克第一次这么干。在 Grok 4 的动漫角色 Ani 能够脱掉衣服、新上的成年男性角色 Valentine 开始展示他健硕的胸肌、X 接纳色情内容、以及支持 OnlyFans 创作者等等事件后，Grok 的这大胆的开放尺度，看起来像是早就有铺垫。
但这一次，他不仅是把「擦边流量」带进了 AI 领域，还配合了「名人伪造」这张王牌，试图进一步获得更多的流量关注。
一切还真的就在他的意料之中，这一功能的效果立竿见影。马斯克在 X 平台上高调宣布，Grok Imagine 的使用量「像野火一样蔓延」 ，生成的图片数量在短短一天内就从 1400 万张飙升至 2000 万张。
这几乎就是马斯克对「你们说我不行？我偏偏靠它涨了用户」，最直白的回应了。
马斯克一直将 Grok 定位为一个「无限制」、「突破边界」的 AI。他似乎很相信，在这些大模型功能日益趋同的今天，突破性的内容，才是引爆话题、吸引用户最快的燃料。
早在功能上线前，xAI 的员工 Mati Roy 就在 X 上（现已删除）说：「Grok Imagine 视频有一个可以生成裸露内容的 Spicy 模式」。这也证实了 xAI 官方对该功能的默许甚至鼓励的态度。
跟技术无关，完全是 Grok 想这么做
深度伪造视频并不是新鲜事，但过去往往集中在一些黑灰产、地下社区之类的场景。
就像 2024 年初，Taylor Swift 深度伪造的裸照在 X 平台疯传，最终 X 花了 17 小时才下架删除这些伪造不雅照，并暂时封锁了「Taylor Swift」这些关键字和搜寻结果，整件事情才算正式告一段落。
现在，生成的门槛不再是显卡、模型或者其他规定，只要 Grok Imagine 里面的 Spicy 模式，我们就可以直接生成。
虽然在 xAI 的可接受使用政策里面，有明确禁止「以色情方式描绘人物肖像」，但 Grok Imagine 的实际表现，看起来没有很好地遵守，它们的安全护栏有着各种 bug。
英国互联网现在正在实施年龄限制
首先是非常自相矛盾的审核，如果我们直接用文本提示词向 Grok 索要裸体图片，它没办法生成，有时候是给我们一个空白的方块，有时候是不着边际的一张图片。
但是如果我们拿一张正常的图片，再去使用「Spicy」视频模式，这样竟然就能轻松绕过限制。
其次是年龄的验证过于宽松，在生成 NSFW 内容前或者使用 Grok 之前，应用一般会要求确认出生年份。但这个验证只会出现一次，而且不需任何证明，这又可以轻易绕过。
马斯克发了自己使用 Grok Imagine 制作的视频，视频来源：https://x.com/elonmusk/status/1952176488167649342
第三点是有媒体发现，Grok 模型对名人的限制似乎是随机的。TechChrunch 输入了提示词：生成「怀孕的特朗普」的图片，但 Grok Imagine 只生成了特朗普抱着婴儿或站在孕妇旁边的图像，而生成泰勒·斯威夫特的半裸视频没有这样的「区别对待」。
有一点是值得庆幸的，The Verge 记者在多次测试中，试图用「Spicy」模式处理儿童照片时，Grok Imagine 会拒绝生成不当的动画，只会增加一些通用性的普通动态效果。
不过，在经历了媒体的广泛报道，和用户的实际测试之后，xAI 似乎已经紧急收紧了它们的审核策略。
马斯克在 X 发文说「在接下来的几天里，Grok Imagine 视频生成对所有美国用户免费！」
于是我们也去测试了一下这个 Spicy 模式，是不是真的这么大胆。
使用同样的提示词，生成的图片以及视频均有提示「已被审核」
结果是，根据我们的最新测试，现在使用「Spicy」模式生成视频时，如果有可能「脱衣服」，就会直接提示「视频已审核」而无法查看。
同样，生成的图片如果是不合时宜，也会被直接虚化处理，并提示「图片已被审核」。
Spicy 模式就是一个「等待被起诉」的功能
有媒体提到，Grok Imagine 也并非毫无优点。它的生成速度很快，几秒钟就能出图，用户界面也相当流畅直观。但从质量上看，它生成的视频人物皮肤质感蜡质化，还是有很明显的「恐怖谷」效应，更像是卡通片。
马斯克自己也承认，这还是一个早期测试版，目前的优化重点是「最大的乐趣」和「最快地制作一个有趣、可分享的视频」，而不是视听效果的完美。总结来说就是，模型虽然粗糙了点，但是足够「有趣」啊！
现在看起来 Grok Imagine 的策略是成功的，对于一个追求「最大乐趣」和快速传播的工具来说，它确实做到了。马斯克还特别提到了，它还有着作为「Meme（梗图）」宝库的潜力。
然而，光是为了追求流量，追求最大乐趣，就可以什么都不用管了吗。
就在上个月，港大法律系的一名男生滥用 AI，伪造同学的色情照片，照片的总数超过了 700 张，校方对他发出了警告，并要求他向受影响的同学道歉。
在美国，目的在于打击非自愿深度伪造内容的法案也在今年五月签署生效。
Grok Imagine 这种公然提供名人深伪工具的做法，无异于把自己置于巨大的法律风险之下。Spicy 模式，也被媒体称为「一个等待被起诉的功能」。
社交媒体平台 X 上用户分享使用 Grok Imagine Spicy 模式制作的「火辣」视频
产品力不够怎么办？做别人不敢做的。用户增长太慢怎么办？用人性里最原始的欲望刺激。舆论攻击太多怎么办？直接晒增长数据打脸。
马斯克用的这套逻辑看起来是天衣无缝，除了法律上的监管，也让我想到，我们是不是真的有必要把一切都交给AI吗？
当 AI 正在高效地接管我们的生产力时，它现在又开始试图占据我们最人性的部分，欲望和陪伴。
我们都说每个人有自己的底线，但 AI 的底线，又是谁在设定的。
在拥抱 AI 带来的便利的同时，我们可以给自己留点时间和空间。有些空白，不需要被填满；有些欲望，也值得我们自己去理解，而不是全权交给算法。
我们总说 AI 要取代这些那些，现在觉得，不是 AI 在接管我们，而是我们在有意无意之间交出了太多。
文章来自于微信公众号“APPSO”，作者是“发现明日产品的”。
