AI热点 4月前 141 阅读 0 评论

社交平台 Snapchat 上线新 AI 聊天机器人,却遭美国多名家长“刷差评”

作者头像

AI技术专栏作家 | 发布了 246 篇文章

IT之家 3 月 30 日消息,据美国 CNN 当地时间 27 日报道,上周,Snapchat 向所有用户推出“My AI”聊天机器人。

“My AI”由热门 AI 聊天工具 ChatGPT 提供支持,功能类似,可以回答问题、提供建议并与用户交流。但与 ChatGPT 不同的是,Snapchat 允许用户自定义机器人的名字、设计 Bitmoji 头像,并将其加入与好友的聊天中。

然而有家长认为,这种设计让与“My AI”的互动更加个性化,也更容易让人忽略自己是在跟 AI 交流,而不是人类。

报道提到,密苏里州东普雷里市的母亲林赛・李(Lyndsi Lee)就在功能上线的短短数小时后,告诉 13 岁的女儿别用这个功能。她担心“My AI”在 Snapchat 上可能会对年轻用户,尤其是自己的女儿造成影响。

不仅是家长,部分 Snapchat 用户也对这一功能强烈不满。许多人因隐私问题、“诡异”的对话体验,以及无法移除该功能(IT之家注:除非支付高级订阅费用),纷纷在应用商店留下差评,并在社交媒体上抱怨。

美国民主党参议员迈克尔・贝内特就曾致信 Snap 及其他科技公司 CEO,对这款聊天机器人与年轻用户的互动方式表示担忧。他特别提到,有报道称“My AI”会教孩子如何向父母撒谎。

“任何社交媒体平台出现这样的情况都令人不安,但对 Snapchat 而言问题更严重,因为近 60% 的美国青少年都在使用它。”贝内特表示。“Snap 明知‘My AI’仍在实验阶段,却依然急于让美国儿童和青少年成为这场社会实验的一部分。”

“My AI”正式上线后,不少 Snapchat 用户表达了忧虑。一位用户称自己的经历“令人害怕”,因为“My AI”先是否认知道他的位置信息,但当他换了个轻松话题后,机器人却准确说出他住在科罗拉多州

也有用户则对“My AI”处理照片的方式感到不安。一位 Snapchat 用户在 Facebook 上写道:“我拍了张照片,它不仅评论‘鞋子不错’,还问我照片里的人是谁。”

报道进一步指出,ChatGPT 由于从互联网上的大量数据中训练而成,过去曾因传播错误信息、不当回应用户,以及助长学生作弊等问题遭到批评。而 Snapchat 的整合方式可能会加剧这些问题,甚至带来新的隐患。

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

作者头像

AI前线

专注人工智能前沿技术报道,深入解析AI发展趋势与应用场景

246篇文章 1.2M阅读 56.3k粉丝

评论 (128)

用户头像

AI爱好者

2小时前

这个更新太令人期待了!视频分析功能将极大扩展AI的应用场景,特别是在教育和内容创作领域。

用户头像

开发者小明

昨天

有没有人测试过新的API响应速度?我们正在开发一个实时视频分析应用,非常关注性能表现。

作者头像

AI前线 作者

12小时前

我们测试的平均响应时间在300ms左右,比上一代快了很多,适合实时应用场景。

用户头像

科技观察家

3天前

GPT-4的视频处理能力已经接近专业级水平,这可能会对内容审核、视频编辑等行业产生颠覆性影响。期待看到更多创新应用!