Arm 公司发布博文爆料，表示为了满足未来生成式 AI 需求和智能功能，将推出可以加速 AI 工作的可扩展矩阵扩展 2（SME2）技术。
随着技术发展，移动设备的生成式 AI 应用不再只是简单的聊天机器人和虚拟助手，功能越来越强大，已经可以对文本、声音、图像和视频进行数学推理，提取摘要等高级智能功能。 这对于设备的要求也越来越高。
SME 最早出现在 Armv9 架构中，作为一组可选的高级 CPU 架构扩展，专门用于加速矩阵数学运算。 2022年SME2 首次亮相，增加了更多的新功能。 Arm 表示，SME2 可以进行实时的移动端推理任务，包含图片生成、自然语言处理任务等。 值得一提的是，开发者无需修改代码，可以将其集成至现有模型和应用中，十分便捷。
Arm 公布了一些数据，表示 谷歌 的 Gemma 3 模型在 SME2 增强的硬件运行时，要比没有硬件的速度快 6 倍。 单个CPU核心一秒内便可运行800字的文本摘要。 （具体测试的CPU型号未知）
公告中最令人关注的莫过于未来 Android 将具备 SME2 硬件能力。 要知道目前 SME 主要是提供给服务器和工作站级处理器，现在 SME2 设计更加扩展，让其部署在 Laptop、平板电脑，甚至是更小的智能手机上成为可能。
目前 Android 做好支持 SME2，可以在 谷歌 的 XNNPACK 库中进行启用，支持 llama.cpp、阿里巴巴的 MNN 和微软的 ONNX 等框架。
