AI热点 19小时前 71 阅读 0 评论

深度对话高通:旗舰三芯AI能力暴涨背后,端侧AI解题密码到底是什么?

作者头像
AI中国

AI技术专栏作家 | 发布了 246 篇文章

智东西

作者 | 云鹏

编辑 | 漠影

智东西9月25日消息,今天凌晨,高通三芯齐发,亮出了其面向手机、PC领域的重磅旗舰芯片,纵观这些产品,性能和能效的大幅提升、AI能力的显著改善是共同特点。

智东西在发布会前夕与高通产品市场高级总监马晓民、高通高级副总裁兼手机业务总经理Chris Patrick进行了面对面深入交流,重点对高通在手机芯片端侧AI领域的思考和AI升级背后的关键技术点进行了深入探讨。

今天,模型越来越复杂、模型的多模态趋势越来越明显,同时模型迭代速度也非常快,这些变化给手机端侧AI芯片带来了哪些挑战、高通又是如何应对的?

对此Patrick谈道,如今模型技术和模型类别不断迭代变化,高通在AI方面研究了20多年,长期跟学界保持密切联系,紧跟最新技术趋势。高通每一代的NPU都会面向未来的模型和AI技术去设计、去更好的适应。

与此同时,高通希望实现的是分布式的AI,各类智能设备都能基于骁龙平台广泛的使用AI能力。高通自己的AI引擎包括不同组成部分,异构计算的架构模式可以满足不同的需求,合作伙伴可以自由选择利用哪些模块的AI能力去加速自身的AI应用。

应对AI的快速变化,手机芯片圈的各路玩家都在积极调整,比如苹果在GPU里塞神经网络处理器、Arm给CPU加入SME2技术,高通和联发科的芯片迭代也围绕AI。

对于业内围绕AI做出的改变,马晓民谈道,近年手机端侧AI呈现出一些大的变化趋势,比如从过去单一的大语言模型到如今更多的多模态大模型,而不论是模型的变化还是芯片内部模块的变化,对于端侧AI体验来说,围绕的核心点都是相同的:

第一,生成tokens的速度要高,输出够快,体验才能更好;

第二,保证功耗足够低,让AI功能可以常用而不会影响整机体验;

第三,保证足够的安全,实现个人数据的完全端侧处理;

第四,内存开销要足够小,保证成本是可控的;

第五,要足够准确,AI提供的帮助、AI生成的内容要足够准确、真正具有很强的可用性,才能让用户形成使用习惯;

归根结底,所有技术的升级都是为了AI体验更快、更省、更安全。

今年各家芯片厂商都比较重视芯片端侧AI能力的提升,但时至今日,手机端侧AI,尤其是对于大火的AI智能体,普通消费者似乎并没有真正广泛的用起来,豆包、ChatGPT、Gemini这些云端模型和应用仍然占据主流。

对此Patrick提到,实际上在AI体验方面,消费者的期待是越来越高的,从过去生成一张简单的图像到现在要求画质更高、速度更快。

云端有云端的优势,新的推理模型往往会率先应用在云侧,但需要注意的是,模型在规模和质量的优化进展上是非常快的,今天很多小模型都有很好的效果,模型量化技术上取得很大进展,MoE模型模式也取得很大进展。

未来,AI更多是一种混合模式,边缘小模型做快速响应,云端大模型处理复杂任务,而高通今年的重点就是让边缘侧设备可以更好的使用这些模型。边缘侧的优势在于有大量可以即时获取的端侧数据,AI可以更好地规划日程安排、更好地通过语境做出判断提供主动服务。

在马晓民看来,在智能体AI方面,大多数消费者更希望看到私人化AI助理这样的AI应用,而不是简单的AI生图、生文。AI可以学习手机数据,提供更主动的AI服务,提供低功耗的“Always on”体验,这是更重要的。

结语:端侧AI迭代提速,高通一手用户需求一面紧跟技术趋势

可以看到,在芯片较为出色的端侧AI能力提升背后,高通对端侧AI的发展有着清晰的认知和规划。一方面,用户到底在手机上需要什么样的AI体验,从用户需求出发去寻找解决方案;另一方面,在日新月异的AI技术迭代中,高通必须时刻紧跟最新技术,保证AI能力的扩展是灵活、AI技术是前沿的。

今天,所有手机芯片玩家可以说都呈现出“All in AI”的架势,AI在手机性能、影像、通信、游戏等各个方面的融合愈发深入。AI手机之战正来到比拼体验的阶段,而手机芯片无疑是底层最核心的技术支撑。

作者头像

AI前线

专注人工智能前沿技术报道,深入解析AI发展趋势与应用场景

246篇文章 1.2M阅读 56.3k粉丝

评论 (128)

用户头像

AI爱好者

2小时前

这个更新太令人期待了!视频分析功能将极大扩展AI的应用场景,特别是在教育和内容创作领域。

用户头像

开发者小明

昨天

有没有人测试过新的API响应速度?我们正在开发一个实时视频分析应用,非常关注性能表现。

作者头像

AI前线 作者

12小时前

我们测试的平均响应时间在300ms左右,比上一代快了很多,适合实时应用场景。

用户头像

科技观察家

3天前

GPT-4的视频处理能力已经接近专业级水平,这可能会对内容审核、视频编辑等行业产生颠覆性影响。期待看到更多创新应用!