2026年1月下旬,一款名为Clawdbot的智能体迅速走红,之后更以“龙虾”之名为人熟知,随之引发了一阵Mac mini的抢购热潮。用户开始为能随时提供服务的AI专门配备电脑。苹果在市场宣传中逐渐转向智能体,新的Mac mini不仅仅强调办公和创作能力,更突出了其全天候运行AI的特性;而Mac Studio则专为需要本地运行大模型的用户提供了更大的内存。近期,小米也推出了AI Cube,这是一款配备三颗玄戒芯片和80GB统一内存的铝合金方盒,可以用于本地大模型部署。英伟达早在2025年10月就开始交付DGX Spark,联想、华硕、惠普和戴尔也纷纷围绕GB10推出整机。原本专注于笔记本和平板电脑的厂商现在竞相争夺用户希望保留一部分AI算力的需求。尽管端侧AI的时代在逼近,目前仍然处于初级阶段。
两年前,最典型的AI PC配置仅需一块NPU。微软对Copilot+ PC的要求设定为40 TOPS NPU、16GB内存和256GB存储。厂商们通过实时字幕和图像处理等功能向用户展示本地AI的可能性。这一标准可以轻松适配于现有的轻薄本,用户依然可以按习惯使用电脑,只是多了几项由专用计算单元支持的功能。然而,随着苹果推出的统一内存,用户逐渐开始部署本地模型。到2025年3月,苹果在M3 Ultra Mac Studio中引入最高512GB的统一内存,并以其支持本地运行数千亿参数模型作为卖点。但此时,本地部署仍主要受专业用户青睐,因其高昂的售价尚不适合普通消费群体。
进入今年,端侧AI的设备不断扩展。小米AI Cube原型机配备80GB统一内存,DGX Spark及多款GB10整机都提供128GB,而AMD Ryzen AI Max 300系列也最高支持128GB。新款Mac Studio则继续提供最高512GB的内存,并将内存带宽提升至1.2TB/s。内存在这一切中显得尤为重要,原因已无需多言。模型的权重、上下文缓存和运行时数据都迅速消耗内存,粗略估算,70B模型的权重就需大约35GB,未计算量化元数据、缓存和系统开销。 千亿球友会
在完成部署后,速度便成了又一障碍。DGX Spark的128GB统一内存结合273GB/s的带宽,前者负责容纳多大的模型,后者则影响数据计算时的搬运速度。生成答案时,模型精度、上下文长度及推理软件也会继续影响输出结果。尽管内存增大不一定解决后续问题,用户依旧需面对模型的下载、更新、应用调用、文件读取权限及故障维护等多重环节。这些操作可能并非来自同一公司,让整个流程变得复杂。
联想、华硕、惠普可利用英伟达的GB10平台完成整机设计、销售和服务,而苹果则能够同时优化芯片、系统和开发工具。小米则尝试通过自家芯片参与制定个人AI设备的计算方式。不同公司的选择反映了其在研发投入与产品决策上的态度。选择现成平台的厂商能够把更多精力集中在产品化和交付上,而自行设计芯片则需要提前承担研发和验证的成本,以换取对内存架构、计算单元和功耗分配的灵活性。
自研芯片并非入场的唯一条件,使用相同的GB10平台,两台机器的能力也许类似,但它们的安装体验、维护服务和客户关系却可能大相径庭。这一新的电脑订单引出了一个更深层次的问题:消费者为本地AI支出的额外费用,究竟最终归属于供应芯片的公司、提供系统的公司,或是销售整机的公司? 千亿球友会
苹果掌握了整个系统的控制权,可以优化芯片、系统和开发工具,无需用户在购买AI PC时做出新的决策,便可实现本地模型的部署。统一内存成为苹果的一大利器,MLX框架允许CPU和GPU共享内存,而减少了数据迁移的需求。MLX-LM则为模型运行、量化和微调提供了工具。开发者在下载第三方开放模型时,也能够利用苹果为其硬件优化的工具进行运行。
这条路径主要依赖CPU和GPU,并非只依靠专用NPU。今年预览的Core AI框架也对统一内存和神经网络引擎进行了优化。苹果可以围绕同一套硬件不断完善软件,而不需要在每次增加AI功能时都再寻找新的计算平台。8月的产品更新进一步划分了市场层次,M6 Mac mini起售价6999元,内存最高可达32GB,M5 Pro版本则可达64GB。对于需要更大模型与更重开发任务的用户,仍可以选择Mac Studio的128GB或512GB配置。新机已于8月27日开始预售,计划于9月22日正式上市。
用户在需求上存在分层:普通用户希望在现有应用中增添更多易用功能;开发者关注能否将自己的模型和代码集成;而科研团队或专业创作者则更可能为大内存与持续负载付费。但苹果能够通过同一套系统满足不同层次用户的需要。 千亿球友会
2026-09-09