端侧AI的瓶颈与PrismML的突破
当前移动设备运行的大模型，参数量通常局限在数十亿级别，显存容量是真正的瓶颈。苹果一直希望把AI功能留在设备本地，这关乎响应速度和隐私保护，但今年WWDC上其Siri升级方案仍依赖谷歌的云端芯片，内部压缩尝试也因能力下滑严重而未达预期。
PrismML是加州理工学院衍生的初创公司，核心数学研究由该校完成，相关专利独家授权给该公司。PrismML宣布成功将阿里Qwen3.6-27B——一个270亿参数的稠密模型，推理时所有参数均参与计算——从约54GB压缩至不到4GB，压缩比超90%，且声称性能没有明显下降。
相比之下，苹果当前的AFM模型虽号称200亿参数，但采用稀疏架构，每次仅激活10亿至40亿参数，PrismML的方案能让全部参数同时激活，在相同硬件下可调用的计算资源更充裕。据The Information报道，苹果已与PrismML就技术应用展开多轮洽谈。
潜在影响与普通用户的意义
若技术被验证可行，苹果可将更多云端AI任务转移至设备端，降低算力投入的同时增强隐私保护。PrismML预测，三年后用户95%的智能服务可在本地获取，仅5%需调用云端。
不过这一路线也面临质疑：云端大模型迭代迅速，完全运行在设备端的模型将难以享受最新性能红利，技术能否从验证走向应用仍有待观察。
对普通用户而言，若技术最终落地，iPhone的AI响应将更快——推理在本地完成，无需等待云端往返；涉及个人信息的任务也可在设备上处理，数据不需离开手机。不过苹果与PrismML的接触仍处早期，上述体验尚无明确时间表。