由前谷歌和Meta工程师于2023年创立的Majestic Labs，近日发布了一款旨在挑战英伟达GPU与高带宽内存（HBM）组合方案的服务器。 这家特拉维夫初创公司认为，将昂贵的图形处理器与高带宽内存配对，是一种根本性的内存受限且缺乏前景的AI推理路径。其解决方案Prometheus服务器采用自研的Ignite AI处理单元（AIU）取代GPU，该单元结合了Arm核心与RISC-V矢量和张量引擎。

另一种内存扩展方式

每台Prometheus服务器最多可容纳12个AI处理单元，并在一个连续、一致的内存池中共享8TB至128TB的LPDDR6内存。该内存池通过自定义内存聚合芯片组访问，这些芯片组通过长达一米的铜缆连接，而非传统方案中直接将内存附加到GPU封装上。 标准40U机架可容纳四台此类服务器，总功耗为120千瓦，采用冷板液冷系统散热。相比之下，配备八块Blackwell GPU的英伟达DGX B300系统仅提供2.3TB HBM3e及多达4TB DDR5系统内存。

Majestic声称，其架构提供的快速内存容量是竞争对手配置的50倍以上，互连带宽为其1.7倍。 “一台Majestic机架拥有的快速内存容量相当于25台英伟达NVL72 Vera Rubin机架，但功耗仅为其中的一小部分，”Majestic Labs表示，“那些原本无法证明超大规模基础设施合理性的组织，现在可以运行任何工作负载。事实上，每个处理器的内存容量可提高多达1000倍。”

性能声明尚待更广泛的测试验证

Majestic Labs表示，Prometheus服务器计划于明年出货，成本可能比同等性能的GPU系统低10至50倍，同时每机架耗电量更低。该服务器设计符合OCP（开放计算项目）标准，支持PyTorch、vLLM和OpenAI的Triton框架，现有AI模型无需修改即可运行。 该公司由首席执行官Ofer Shacham、总裁Sha Rabii和首席运营官Masumi Reynders创立，目前在特拉维夫和洛杉矶拥有约40名员工，并于2025年底完成了1亿美元的A轮融资。据称，公司已获得来自大型企业、新云服务商和超大规模厂商的大量订单。 然而，仍有细节尚不明确，例如单台服务器实际需要的内存聚合芯片组数量。若128TB配置依赖广泛可用的2GB LPDDR6存储芯片，则需约64,000颗芯片，意味着每台服务器需超过一百个聚合芯片组。

Majestic Labs提出的数字令人瞩目，但仍是该初创公司在任何独立基准测试或硬件交付之前的预测数据。考虑从成熟GPU供应商转向其他选择的企业买家，可能需要等待独立验证来证实Majestic的主张。

【星途科讯 图文丨周鑫雨 首发于ZAKER科技，转载请注明出处】