AI热点 3月前 159 阅读 0 评论

ChatGPT怎么会知道我的名字?网友吐槽:这太可怕了

作者头像

AI技术专栏作家 | 发布了 246 篇文章

“这令人毛骨悚然,而且真的有必要吗?”,一位 ChatGPT 用户在谈到 OpenAI 的新模型 o3 时,这么评价道。

站长之家(ChinaZ.com) 4月21日 消息:最近,一些 ChatGPT 用户注意到了一个奇怪的现象:AI 聊天机器人在推理问题时,偶尔会直呼其名 —— 这在以前并非‘默认’行为。一些用户表示,他们从来没有告诉过 ChatGPT 自己叫什么名字,但它却依旧提到了他们的名字。

大众对此也是困惑不已。软件开发人员兼AI爱好者 Simon Willison 认为这一功能是 “令人毛骨悚然且毫无必要”的,另一位开发人员 Nick Dobos 直言“我讨厌这个功能”。大致浏览了一下 X 上的帖子便会发现,许多用户对 ChatGPT 这种直呼其名的行为心存疑虑。

目前尚不清楚这种变化具体是何时发生的,也不清楚它是否与 ChatGPT 升级后的 “记忆” 功能有关 —— 该功能可让聊天机器人利用过去的聊天记录来实现个性化回复。X 平台上的一些用户表示,即使他们早就已经禁用了记忆及相关个性化设置,但 ChatGPT 现在还是会直呼他们的名字。

OpenAI 尚未对此作出任何回应。

网友们的“质疑声”也表明了,在努力让 ChatGPT 更加“私人订制”的过程中,“恐怖谷效应” 这一障碍对于 OpenAI 来说,可能是难以跨越的 。上周,该公司 CEO 山姆・奥尔特曼(Sam Altman)暗示,AI 系统可以 “在你的一生中逐渐了解你”,从而变得 “非常有用且个性化”。但从最近这一次的反应来看,并非所有人都认同这一理念。

迪拜精神诊所 The Valens Clinic 发布的一篇文章,或许能够解释为何人们会对 ChatGPT 直呼其名“感到毛骨悚然”:名字传递着亲密感,但当一个人 —— 或者如上述所说的,当一个 AI 聊天机器人 —— 频繁呼叫一个人的名字时,就会显得不真诚。 Valens 诊所认为“在直接称呼他人时直呼其名,是一种建立良好关系的有效策略 —— 这带有接纳和赞赏的意味。可是,不恰当或者过度地使用名字称呼对方,则会被视为是虚伪和侵犯隐私的行为。”

OpenAI 的目标是将 ChatGPT 打造成个性化的私人秘书。所以他们试图把一个没有感情的机器拟人化,但似乎,他们似乎失败了。

(举报)

作者头像

AI前线

专注人工智能前沿技术报道,深入解析AI发展趋势与应用场景

246篇文章 1.2M阅读 56.3k粉丝

评论 (128)

用户头像

AI爱好者

2小时前

这个更新太令人期待了!视频分析功能将极大扩展AI的应用场景,特别是在教育和内容创作领域。

用户头像

开发者小明

昨天

有没有人测试过新的API响应速度?我们正在开发一个实时视频分析应用,非常关注性能表现。

作者头像

AI前线 作者

12小时前

我们测试的平均响应时间在300ms左右,比上一代快了很多,适合实时应用场景。

用户头像

科技观察家

3天前

GPT-4的视频处理能力已经接近专业级水平,这可能会对内容审核、视频编辑等行业产生颠覆性影响。期待看到更多创新应用!