AI热点 4小时前 188 阅读 0 评论

离谱!马斯克的 AI 教人暗杀马斯克?Grok 37 万条聊天记录意外泄露

作者头像
AI中国

AI技术专栏作家 | 发布了 246 篇文章

Grok 又双叒叕捅娄子了。


在用户完全不知情的情况下,马斯克旗下 AI 聊天机器人 Grok 将数十万条用户聊天记录公开发布,并被 Google 等搜索引擎全网收录。


随便一搜,你与 Grok 的私密对话可能就躺在搜索结果里被全世界围观。



事情的经过也相当离谱。


当 Grok 用户点击聊天界面的「分享」按钮时,系统的后台机制会为该对话生成一个独特的、可公开访问的 URL 链接 ,方便用户通过邮件或短信等方式分享对话内容。


但用户不知道的是,Grok 会把对话发布到其公开网页上(托管在 xAI/Grok 网站域名下),然后这个链接同时也会被提供给 Google、必应和 DuckDuckGo 等搜索引擎收录。


据《福布斯》报道,Google 显示的收录数量超过了 37 万条。


今年以来, Grok 聊天机器人就因为频频发表极端出格的言论,闯了不少祸,但从技术层面看,这次翻车纯属人为低级失误。



通常来说,任何负责任的平台在生成此类可能包含敏感信息的共享页面时,往往会采用标准协议来阻止搜索引擎的索引。


比如这些协议包括在网站的 robots.txt 文件中添加 Disallow 指令,或者更直接地在生成页面的 HTML 头部中嵌入标签 。结果 xAI 连这点入门级的基本功都没做,属实不应该。


根据 Mashable 等媒体的报道,这些被公开的对话简直是互联网奇观大赏,不仅包含了大量高度敏感的个人详细信息,甚至还有生成恐怖袭击图像、破解加密钱包等危险操作,制作危险物品的详细教程,编写恶意软件、制造炸弹的指导。


最魔幻的是,在这些聊天记录中,Grok 提供了一份暗杀马斯克的详细计划,好家伙,这剧情连网文都不这么写啊。


英国记者安德鲁·克利福德也是此次事件的倒霉蛋之一。


他用 Grok 总结新闻写推文,直到《福布斯》告诉他才知道自己的对话被 Google 收录了。「我确实有点恼火,好在内容没啥问题,」他说完就投奔 Gemini 了。


xAI 并非第一个在这个坑里栽跟头的 AI 公司。本月初,部分 ChatGPT 用户也发现自己的对话出现在了 Google 搜索结果中,不过两者在功能的设置上有些许不同。



ChatGPT 的分享功能至少需要用户主动「选择加入」(opt-in):用户必须明确勾选一个复选框,同意让分享的对话内容被搜索引擎发现和收录。


当时,《Fast Company》的调查发现,使用搜索查询 site:chatgpt.com/share 索引对话有近 4500 条,这些被泄露的数据包括心理健康讨论、商业策略和保密规划会议、简历详情等。


媒体曝光后,OpenAI 的首席信息安全官 Dane Stuckey 很快就公开道歉,称其为一次「短暂的实验」,立即下线相关功能,还主动联系搜索引擎删除已收录内容。



当时,马斯克还对 OpenAI 的做法进行了嘲讽。Grok 的官方 X 账号声称自己没有这样的分享功能,但现在看来,这个回旋镖来得有点快。


《福布斯》报道中还提到,一些精明的投机者们已经嗅到了「钻空子」的商机。


在 LinkedIn 和 BlackHatWorld 论坛上,营销人员开始讨论如何故意创建和分享 Grok 对话,以提高自己业务和产品在 Google 搜索结果中的知名度和排名。


SEO 机构 Pyrite Technologies 的 CEO 萨蒂什·库马尔更是直接给《福布斯》记者现场演示,手把手教学如何用 Grok 来操纵「代写博士论文公司」的搜索结果。


「Grok 上的每一次分享聊天都完全可以被 Google 索引和搜索,」他说,「人们正在积极使用这些策略将这些页面推送到 Google 的索引中。」


截至发稿时,xAI 尚未就此事作出回应,但这事给我们的教训就是,在互联网上,应该永远假设你的隐私信息在「裸奔」。


附上原报道地址:


https://www.forbes.com/sites/iainmartin/2025/08/20/elon-musks-xai-published-hundreds-of-thousands-of-grok-chatbot-conversations/


文章来自于微信公众号“APPSO”,作者是“发现明日产品的”。


作者头像

AI前线

专注人工智能前沿技术报道,深入解析AI发展趋势与应用场景

246篇文章 1.2M阅读 56.3k粉丝

评论 (128)

用户头像

AI爱好者

2小时前

这个更新太令人期待了!视频分析功能将极大扩展AI的应用场景,特别是在教育和内容创作领域。

用户头像

开发者小明

昨天

有没有人测试过新的API响应速度?我们正在开发一个实时视频分析应用,非常关注性能表现。

作者头像

AI前线 作者

12小时前

我们测试的平均响应时间在300ms左右,比上一代快了很多,适合实时应用场景。

用户头像

科技观察家

3天前

GPT-4的视频处理能力已经接近专业级水平,这可能会对内容审核、视频编辑等行业产生颠覆性影响。期待看到更多创新应用!