发生了什么
最近,端侧AI芯片的赛道变得异常火热。在大model从云端向手机、PC and 机器人等终端设备下沉的大背景下,NPU(神经网络处理器)几乎成了所有芯片厂商叙事中的绝对主角。大家都在拼命刷新TOPS(每 seconds万亿次运算)数据,并针对Transformer架构增加专门的加速能力。然而,诚恒微在其首款旗舰SoC上却做出了一个颇具争议的不同Choose:在NPU算力并不占优的情况下,依然坚持在芯片中集成了GPGPU(通用图形处理器)。
核心变化解读
这事儿其实挺有意思的。现在的行业共识是“NPU至上”,因为NPU是为AI矩阵运算专门设计的,能效比极高,ideal for处理手机里那些常驻的AI任务。但是,诚恒微的Choose似乎在提醒我们,通用性依然很重要。GPGPU虽然能效比不如NPU极致,但它编程灵活,兼容性好,能跑很多NPU跑不好 or 者跑不了的复杂model。
大model虽然正在下沉,但形态变化很快。如果芯片只为了当下的Transformer做极致优化,万一model架构变了, or 者usersneed 跑一些非Transformer的算法,纯NPU方案可能就会显得力不从心。诚恒微在NPU不足的情况下加GPGPU,更像是一种“防御性”的赌注,用通用算力来弥补专用算力的潜在短板,保证旗舰SoC在各种AI场景下都能“兜底”。这也Notes,端侧AI的竞争不仅仅是堆算力,更是在架构灵活性 and 能效之间找平衡。
对users in China的影响
对于我们普通users来说,这种硬件层面的“内卷”最终会体现在体验上。随着更强的端侧算力落地,我们的手机 and PC将能本地运行更强大的AI助手。这意味着响应速度会变快,隐私性更好,因为数据不用全传到云端。不过,要完全释放这些旗舰芯片的潜力,往往还need 配合顶级的AI软件service。
就像大家习惯了ChatGPT的强大能力一样,未来端侧AI也need 云端大model的协同。无论是目前流行的Plus还是Proplan,云端算力依然是处理复杂任务的主力。端侧芯片的进步,更多是让设备变得更聪明,能预处理更多任务,但它暂时还无法完全替代云端超大model的智慧。所以,硬件升级了,我们receive高质量AIservice的途径依然重要。
你need 做什么
面对眼花缭乱的芯片参数,大家不用太纠结于NPU还是GPGPU谁更厉害,关键还是看实际体验。如果你追求latest的AI体验,关注那些在AI基准test中表现优异的新设备即可。当然,无论硬件怎么变,想要第一时间体验到最前沿的AI能力,保持account的benefits是关键。如果你need renewal or 升级service,can通过ChatGPT Recharge Center进行操作,确保yourAI体验不掉线。