Mac mini AI 算力大升级! 国外AI新创成功外接NVIDIA/AMD显卡

最近 Mac mini 可说越来越常出现在本地 AIOpenClaw、代理工具这类讨论里,原因很简单,体积小、功耗低,再加上绝大多数的 AI 工具对 macOS 支持性最好。 不过由于 Mac mini 体积太小,AI 算力不可能多高,因此绝大多数人都是买来跑云端模型。 不过这个算力限制,可能再过不久的未来就能解决。 近日国外有AI新创展示Mac mini成功外接显卡,NVIDIA或AMD都支持,瞬间变成一台能跑本地LLM模型的主机。

Mac mini AI 算力大升级! 国外 AI 新创成功外接 NVIDIA / AMD 显卡 - 安卓手赚网

TinyCorp 破解 Apple Silicon 限制,让 Mac mini AI 算力起飞

过去在苹果还使用Intel处理器的时代,Mac 其实是支持eGPU 的,通过Thunderbolt 3 连接外接显卡盒,就能使用AMD的独立显卡来加速图形运算(NVIDIA显卡则从未支持过)。

但自从苹果在 2020 年推出自家的 M1 芯片之后,所有搭载 Apple Silicon 的 Mac,包括 M1、M2、M3、M4、到最新的 M5 系列,全部都不支持 eGPU 了,原因不是 Thunderbolt 接口的硬件限制,而是「软件层面」的问题。 Apple Silicon 把 CPU、GPU 和内存整合在同一颗芯片上(统一内存架构),而 macOS 的图形 API「Metal」并没有设计成可将工作分配给外部的非 Apple GPU。

所以正常来说,如果手上的 Mac 是搭载 Apple Silicon 芯片,是没办法外接显卡的。

Mac mini AI 算力大升级! 国外 AI 新创成功外接 NVIDIA / AMD 显卡 - 安卓手赚网

不过这个限制已经被国外一间 TinyCorp 的 AI 新创公司给破解。 TinyCorp 是一家由知名黑客 George Hotz(网络昵称 geohot)所创立,他们开发了一套名为「tinygrad」的神经网络框架,专注于让 AI 运算更简单、更有效率。

根据 Wccftech 报导,TinyCorp 的工程师通过一个叫做「ADT-Link」的转接器(型号 ADT-UT3G),将 Mac Mini 的 Thunderbolt 4 接口转换成 PCIe 导流排,也就是常规桌上型电脑插显示卡用的接口。 接着,他们自行撰写了 Python 用户空间驱动程序(userspace driver),绕过 macOS 原本不支持的限制,让系统能够直接与 NVIDIA 和 AMD 的显卡沟通:

在GPU的支持方面,NVIDIA这边支持RTX 30、40、50系列显卡,AMD则支持RDNA 2、RDNA 3、RDNA 4架构的显卡。 TinyCorp 展示的显卡看起来是 GALAX GeForce RTX 5060。 连接的带宽为 40 Gbps(双向各 5 GB/s),这大约等同于 PCIe 3.0 x4 的速度,对于 AI 推论任务来说算是堪用。

不过要特别注意的是,这个解决方案「只能用于 AI 运算」,因为外接的显卡没有画面输出,不能拿来玩游戏、也不能加速 macOS 的图形界面,它纯粹就是一个 AI 计算加速器。

实际性能测试的数据,TinyCorp 目前还没有公开详细的跑分数据。 不过根据硬件规格推算,如果使用VRAM较大的显卡,应该可以在本机完整运行7~8B参数的模型(8-bit量化),或是13~14B参数的模型(4-bit量化)。

至于之后会不会推出相关产品? 根据TinyCorp的规划,他们预计在2026年第二季推出一款专用的eGPU扩充板,这块板子会内置硬件电源管理功能,让GPU闲置时能省电,同时也有GPU重置机制,万一显示卡当掉不需要整台电脑重开机。 不过目前还没有公布具体的售价信息。

(0)
CodeMasterXCodeMasterX

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注