**星环科技AI推理时代的硬件...

**星环科技AI推理时代的硬件变革**

星环科技 AI推理时代的硬件变革 AI推理时代的特点是“小数据块、高频度、大容量”的访问需求，现有以CPU为核心的架构无法满足，CPU在处理高并发时会产生时延，导致GPU空转，效率低下。 为此，英伟达提出GPU将主导存储架构新格局。具体方案包括：GPU直连高速SSD（如英伟达新架构支持的“StorageServer”），以及HBM和类似HBF的新架构。